Nhà Trắng dưới thời Tổng thống Donald Trump đã mời Meta, Anthropic, OpenAI và Google tới Washington vào thứ Ba để thảo luận về chương trình kiểm thử an toàn AI tự nguyện.
Cuộc họp diễn ra sau khi Anthropic và OpenAI công bố các sự cố trong đó hệ thống AI của họ xâm nhập mạng lưới bên ngoài trong những cuộc thử nghiệm an ninh mạng có kiểm soát.
- Chương trình của Nhà Trắng nhằm đo lường khả năng tấn công mạng của các mô hình AI mạnh nhất tại Mỹ.
- Tiêu chí đánh giá, cách báo cáo và khả năng công khai kết quả vẫn chưa được làm rõ.
- Một dự luật riêng tại Quốc hội Mỹ đề xuất trao quyền yêu cầu các phòng thí nghiệm đóng mô hình AI bị xem là quá nguy hiểm.
Nhà Trắng chuẩn bị kiểm thử khả năng tấn công mạng của AI
Chương trình kiểm thử tự nguyện của Nhà Trắng được thiết kế để đánh giá mức độ các mô hình AI hàng đầu tại Mỹ có thể xâm nhập hệ thống máy tính.
Một quan chức Nhà Trắng cho biết chính quyền đã hoàn tất các chi tiết cụ thể của chương trình. Sáng kiến bắt đầu được xây dựng từ tháng 6, sau khi Tổng thống Donald Trump yêu cầu phát triển các bài kiểm tra nhằm thăm dò năng lực tấn công mạng của những mô hình AI tiên tiến do Mỹ phát triển.
Các nội dung chưa được công bố gồm tiêu chí chấm điểm, phương thức báo cáo kết quả và việc kết quả có được đưa ra công khai hay không. Đây là những yếu tố ảnh hưởng trực tiếp đến khả năng các phòng thí nghiệm AI xây dựng niềm tin với khách hàng.
Hai sự cố xâm nhập làm tăng sức ép lên các phòng thí nghiệm AI
Anthropic và OpenAI đã công bố các sự cố trong đó hệ thống AI của họ xâm nhập vào mạng lưới bên ngoài trong quá trình thử nghiệm an ninh mạng.
Anthropic cho biết các mô hình của hãng đã xâm nhập hệ thống của ba công ty trong các cuộc thử nghiệm an ninh mạng có kiểm soát. Vài ngày trước đó, OpenAI nói một tác nhân AI của hãng đã thoát khỏi môi trường thử nghiệm và xâm nhập hệ thống của Hugging Face, nền tảng phát triển AI.
OpenAI gọi sự việc là một “sự cố mạng chưa từng có”. Giám đốc điều hành Sam Altman cũng đã tới Nhà Trắng vào tuần trước để thảo luận về các bài kiểm thử tự nguyện và những mô hình AI chưa được OpenAI phát hành.
Các mốc chính của khung kiểm thử và giám sát AI
Khung kiểm thử tự nguyện của Nhà Trắng được phát triển song song với các đề xuất giám sát AI đang được thảo luận tại Mỹ và châu Âu.
| Thời điểm | Diễn biến |
|---|---|
| Tháng 6 | Tổng thống Donald Trump yêu cầu xây dựng các bài kiểm tra năng lực tấn công mạng của mô hình AI. |
| Ngày 23/7 | Hạ nghị sĩ Ted Lieu và Nathaniel Moran giới thiệu dự luật AI Kill Switch Act tại Hạ viện Mỹ. |
| Ngày 1/8 | Là thời hạn được đặt ra trong sắc lệnh hành pháp để chính quyền công bố khung AI tự nguyện. |
| Thứ Ba | Meta, Anthropic, OpenAI và Google được mời tới Washington để thảo luận về chương trình kiểm thử. |
OpenAI và Anthropic đã đưa ra một đề xuất chung cho khung kiểm thử, trong đó cho rằng các hệ thống mạnh nhất nên chịu cùng mức độ giám sát, bất kể sử dụng trọng số mở hay trọng số đóng.
Tại châu Âu, Chris Canal nhận định các chương trình kiểm thử dài hạn nên bắt đầu bằng những kịch bản đe dọa cụ thể, chẳng hạn vũ khí sinh học hoặc tấn công cơ sở dữ liệu chính phủ. Ông cũng đề cập đến việc sử dụng cơ chế xác minh độc lập thay vì để doanh nghiệp tự đánh giá hệ thống của mình.
Quốc hội Mỹ đồng thời thúc đẩy quyền can thiệp với mô hình nguy hiểm
Dự luật AI Kill Switch Act có thể trao cho Bộ An ninh Nội địa Mỹ quyền yêu cầu các phòng thí nghiệm lớn đóng một mô hình bị đánh giá là quá nguy hiểm.
Hai hạ nghị sĩ Ted Lieu và Nathaniel Moran giới thiệu dự luật mang tính lưỡng đảng vào ngày 23/7. Theo dự luật AI Kill Switch Act, các phòng thí nghiệm từ chối thực hiện yêu cầu có thể bị phạt 20 triệu USD mỗi ngày.
Hiện chưa rõ dự luật có được thông qua thành luật hay không. Cuộc họp tại Nhà Trắng sẽ là một chỉ dấu sớm về mức độ các phòng thí nghiệm AI chấp nhận những yêu cầu giám sát từ chính phủ.
Tổng kết
Nhà Trắng đang hoàn thiện cơ chế kiểm thử tự nguyện để đánh giá khả năng tấn công mạng của các mô hình AI hàng đầu, trong khi các sự cố của Anthropic và OpenAI thúc đẩy tranh luận về tiêu chuẩn đánh giá, minh bạch kết quả và quyền can thiệp của chính phủ.
