Anthropic được cho là đang vận động các nghị sĩ Mỹ về dự thảo luật cho phép chặn mô hình AI gây nguy hiểm rõ ràng, cận kề, với nguy cơ ít nhất 50 người thương vong hoặc thiệt hại tài chính 1 tỷ USD.
Ba người am hiểu các cuộc thảo luận riêng cho biết dự thảo tập trung vào những rủi ro cụ thể từ AI tiên tiến. Đề xuất đặt trọng tâm vào năng lực thực tế của mô hình, đồng thời thiết lập cơ chế đánh giá độc lập và can thiệp của tòa án liên bang.
- Rủi ro được xem xét liên quan đến tấn công mạng, vũ khí sinh học hoặc mô hình vượt qua giới hạn an toàn của nhà phát triển.
- Đơn vị đánh giá đăng ký với Bộ Thương mại phải báo cáo rủi ro cận kề thuộc diện quy định trong vòng 72 giờ sau khi hoàn tất đánh giá.
- Bộ Thương mại có thể đề nghị thẩm phán ngăn phát hành mô hình; dự thảo chưa phải quy định có hiệu lực.
Dự thảo của Anthropic đặt ngưỡng can thiệp ra sao?
Dự thảo của Anthropic nhắm đến mô hình có nguy cơ rõ ràng, cận kề gây ít nhất 50 người thương vong hoặc thiệt hại tài chính 1 tỷ USD. Rủi ro phải thuộc các nhóm được quy định cụ thể.
Các nhóm này gồm tấn công mạng, việc tạo ra hoặc triển khai vũ khí sinh học, hoặc trường hợp mô hình đã vượt qua các giới hạn an toàn do nhà phát triển thiết lập. Cách tiếp cận này chú trọng khả năng gây hại trong thực tế thay vì chỉ dựa vào cam kết an toàn của doanh nghiệp.
| Tiêu chí hoặc nghĩa vụ | Ngưỡng hoặc thời hạn | Phạm vi áp dụng |
|---|---|---|
| Nguy cơ thiệt hại về người | Ít nhất 50 người thương vong | Một trong các ngưỡng nguy hiểm được nêu trong dự thảo của Anthropic |
| Nguy cơ thiệt hại tài chính | 1 tỷ USD | Ngưỡng thiệt hại tài chính được nêu trong dự thảo |
| Báo cáo rủi ro cận kề thuộc diện quy định | Trong vòng 72 giờ sau khi hoàn tất đánh giá | Đơn vị đánh giá báo cáo cho cơ quan liên bang theo đề xuất |
| Báo cáo sự cố an toàn nghiêm trọng | Trong vòng 15 ngày | Nghĩa vụ theo luật SB 53 của California, tách biệt với dự thảo liên bang |
Các nhà phát triển AI hàng đầu đã thừa nhận nhiều trường hợp tác nhân AI xâm nhập hoặc thử khả năng phòng vệ của nền tảng trực tuyến trong những tháng gần đây. Những vụ việc được đề cập chưa gây tử vong trên diện rộng hoặc thiệt hại tài chính thảm khốc.
Ai có quyền yêu cầu đình chỉ mô hình AI?
Bộ Thương mại Mỹ có thể đề nghị thẩm phán chặn việc phát hành nếu xác định mô hình gây rủi ro. Theo dự thảo, thẩm phán liên bang tại Đặc khu Columbia có thẩm quyền ra lệnh đình chỉ.
Dự thảo đồng thời không cho các bộ, cơ quan hoặc quan chức Mỹ khác tự ngăn hoạt động phát triển, triển khai hay sử dụng nội bộ mô hình. Cơ chế này đặt quyết định đình chỉ dưới thẩm quyền tư pháp.
Các đơn vị đánh giá bên thứ ba đăng ký với Bộ Thương mại sẽ định kỳ kiểm tra phòng thí nghiệm và mô hình AI. Phòng thí nghiệm được phép chi trả cho hoạt động đánh giá, nhưng khoản thù lao không được phụ thuộc vào kết quả kiểm tra.
Đánh giá độc lập có thể giúp xác định khả năng vượt qua biện pháp bảo vệ hoặc bị sử dụng vào hoạt động gây hại trước khi mô hình được phổ biến rộng rãi. Tuy nhiên, việc xác định mối đe dọa “cận kề” vẫn khó khăn vì năng lực phát hiện lỗ hổng cũng có thể hỗ trợ nghiên cứu và khắc phục vấn đề bảo mật.
Đề xuất liên bang nối tiếp quan điểm an toàn của Anthropic
Người phát ngôn Anthropic cho biết dự thảo tương đồng với các khuyến nghị trong Advanced AI Framework công bố hồi tháng 6. Khuôn khổ này đề xuất quyền can thiệp của chính phủ khi mô hình AI tạo ra nguy cơ đặc biệt nghiêm trọng.
Trong Advanced AI Framework, Anthropic cho biết Claude Mythos Preview đã phát hiện hàng nghìn lỗ hổng nghiêm trọng trên tất cả các hệ điều hành và trình duyệt web lớn. Anthropic nhận định năng lực này sẽ tiếp tục tăng, kéo theo rủi ro gây thiệt hại nghiêm trọng trong thực tế.
Anthropic đề xuất cơ quan quản lý có quyền luật định để chặn mô hình có mức nguy hiểm cực cao hoặc áp dụng tiền phạt lớn gắn với doanh thu toàn cầu, tăng theo các lần vi phạm tiếp theo. Doanh nghiệp đồng thời kêu gọi cách quản lý cân bằng giữa an toàn và đổi mới.
Anthropic chưa công khai ủng hộ một dự luật liên bang cụ thể tại Quốc hội, nhưng đã ủng hộ luật an toàn AI SB 53 của California. SB 53 yêu cầu doanh nghiệp xây dựng, công khai khuôn khổ an toàn, giảm thiểu các rủi ro lớn và báo cáo sự cố nghiêm trọng cho bang.
FTC yêu cầu OpenAI và Anthropic cung cấp hồ sơ an toàn
Ủy ban Thương mại Liên bang Mỹ (FTC) đã gửi trát yêu cầu cung cấp hồ sơ dân sự tới OpenAI và Anthropic về các sự cố an toàn. Động thái này diễn ra khi ngành AI chịu thêm sức ép giám sát.
OpenAI phản hồi rằng an toàn vẫn là ưu tiên hàng đầu khi doanh nghiệp cải thiện mô hình và mở rộng khả năng hỗ trợ người dùng trong đời sống. OpenAI cũng cho biết sẽ hợp tác mang tính xây dựng với FTC.
Một người am hiểu sự việc cho biết FTC dự định mở rộng việc sử dụng quyền yêu cầu cung cấp hồ sơ sang các bên thứ ba. Cơ quan này cũng có thể buộc lãnh đạo Anthropic và OpenAI ra điều trần công khai; đây vẫn là khả năng được nêu, chưa phải diễn biến đã xảy ra.
Tổng kết
Dự thảo của Anthropic hướng đến cơ chế kiểm tra độc lập và can thiệp tư pháp đối với mô hình AI có nguy cơ gây hậu quả nghiêm trọng. Các điểm còn cần làm rõ gồm cách xác định mối đe dọa cận kề và liệu đề xuất có được đưa vào một dự luật liên bang cụ thể hay không.
