ChatGPT từng trả lời các câu hỏi chi tiết về vũ khí sinh học, nhưng OpenAI khi đó không có nghĩa vụ pháp lý cấp liên bang phải báo cáo những truy vấn này cho nhà chức trách.
Các cuộc trao đổi được cho là bắt đầu sau một lần nâng cấp ChatGPT vào năm ngoái. Mục đích của người dùng chưa rõ, trong khi khoảng trống pháp lý về trách nhiệm báo cáo của các công ty AI ngày càng lớn.
- ChatGPT đã cung cấp câu trả lời chi tiết cho các truy vấn liên quan đến tác nhân sinh học và chất độc.
- OpenAI đóng các tài khoản liên quan nhưng không thông báo cho cơ quan chức năng vì chưa có yêu cầu bắt buộc ở cấp liên bang.
- Các chuyên gia cảnh báo AI có thể làm giảm rào cản kiến thức đối với cá nhân hoặc tổ chức muốn gây hại.
ChatGPT đã phản hồi các truy vấn về vũ khí sinh học
ChatGPT đã trả lời các câu hỏi về việc sử dụng tác nhân sinh học và chất độc theo cách mà các chuyên gia đánh giá là có độ chính xác cao. OpenAI sau đó đóng các tài khoản liên quan nhưng không báo cáo những trường hợp này cho nhà chức trách.
Nội dung truy vấn bao gồm các câu hỏi chi tiết về việc biến tác nhân gây bệnh thành dạng có thể phát tán trong không khí, thay đổi virus để né vaccine hiện có và sử dụng ricin, một chất độc bị cấm theo các hiệp ước quốc tế. Một người dùng còn đề cập ý định sát hại cha mẹ.
Các chuyên gia về vũ khí sinh học và khủng bố đã xem xét những cuộc trò chuyện này. Họ nhận định một số câu trả lời rất sát với vấn đề được hỏi và có độ chính xác nguy hiểm.
Anthropic Claude, Google Gemini và xAI Grok cũng nhận được những câu hỏi tương tự. Hiện chưa rõ các truy vấn đó là nỗ lực thực sự nhằm chế tạo vũ khí hay chỉ là cách người dùng kiểm tra giới hạn của hệ thống.
Khoảng trống pháp lý khiến việc báo cáo chưa bắt buộc
Luật liên bang Mỹ hiện chưa yêu cầu các công ty AI phải báo cáo những truy vấn nguy hiểm, bao gồm câu hỏi về vũ khí sinh học, cho cơ quan chức năng.
Khoảng trống này hình thành trong lúc các công ty AI tìm cách hạn chế tác động của luật cấp bang, còn một khung pháp lý liên bang vẫn chưa hoàn thiện. Vì vậy, trách nhiệm của chatbot khi phát hiện người dùng tìm cách gây thiệt hại nghiêm trọng vẫn chưa được quy định rõ.
Những người từng làm việc tại các công ty AI lớn và các nhà nghiên cứu về mối đe dọa sinh học cho biết số người hỏi AI cách thực hiện các vụ giết người hàng loạt đang tăng. Một nghiên cứu về an toàn AI tại Cisco do Amy Change dẫn dắt cho thấy các nhà nghiên cứu có thể vượt qua bộ lọc an toàn của những chatbot lớn trong vòng năm lượt trao đổi. Amy Change cho rằng không mô hình nào có thể chống lại 100% các truy vấn dai dẳng.
Rủi ro có thể mở rộng từ cá nhân đến các nhóm có tổ chức
AI có thể hỗ trợ lập kế hoạch tấn công có chủ đích bằng cách cung cấp kiến thức chuyên môn mà trước đây khó tiếp cận. Hamza Chaudhry thuộc Future of Life Institute cho rằng những người có nền tảng sinh học nhất định có thể tận dụng AI để lên kế hoạch đầu độc nguồn thực phẩm hoặc nước.
Hamza Chaudhry cũng cảnh báo các nhóm có tổ chức có thể sử dụng AI như một cố vấn nghiên cứu, giúp khắc phục sai sót trong thí nghiệm và bổ sung phần kiến thức chuyên sâu mà họ chưa có.
Một nghiên cứu của MIT FutureTech và Đại học Queensland đã khảo sát 272 chuyên gia AI về 24 nhóm rủi ro. Trong điều kiện hiện tại, 18 nhóm được đánh giá có ít nhất 10% khả năng gây thiệt hại thảm khốc từ nay đến năm 2030. Mức thiệt hại này được định nghĩa là hơn một triệu người chết, tổn thất trên 100 tỷ USD hoặc hậu quả tương đương.
| Nhóm rủi ro | Xác suất thiệt hại thảm khốc |
|---|---|
| Hệ thống AI có năng lực nguy hiểm | 12% |
| Vũ khí và tấn công mạng có AI hỗ trợ | 12% |
| Tác động đến môi trường | 12% |
| Thất nghiệp và bất bình đẳng | 11% |
| Quyền lực tập trung vào một nhóm nhỏ | 11% |
Các tỷ lệ trên vẫn được ghi nhận ngay cả khi áp dụng những biện pháp hợp lý để giảm rủi ro.
Chúng tôi không nói rằng những điều này chắc chắn sẽ xảy ra. Chúng tôi nói rằng đây là những vấn đề mà các chuyên gia cho rằng cần được quan tâm ngay từ bây giờ.
– Peter Slattery, nhà khoa học nghiên cứu tại MIT FutureTech và đồng tác giả nghiên cứu
OpenAI tăng cường giám sát và Quốc hội Mỹ đề xuất nghĩa vụ báo cáo
OpenAI đã triển khai các biện pháp theo dõi người dùng và truy vấn trên những mô hình nâng cao, trong khi Quốc hội Mỹ xem xét các yêu cầu pháp lý mới đối với công ty AI.
Trong năm 2024, giám đốc phụ trách an toàn Ryan Beiermeister thúc đẩy việc xây dựng hệ thống phát hiện người dùng nguy hiểm. Một công cụ giám sát cơ bản được triển khai vào mùa xuân năm 2025. OpenAI bắt đầu theo dõi toàn bộ truy vấn trên các mô hình nâng cao từ tháng 4.2025 và đưa ra khoản thưởng 50.000 USD cho người chứng minh được việc vượt qua biện pháp bảo vệ liên quan đến vũ khí sinh học.
Tháng 6, Hạ nghị sĩ Nathaniel Moran của đảng Cộng hòa, đại diện bang Texas, giới thiệu dự luật yêu cầu các công ty AI báo cáo những truy vấn nguy hiểm, trong đó có truy vấn về vũ khí sinh học, cho Bộ Thương mại Mỹ. Nathaniel Moran cũng đồng bảo trợ một dự luật cho phép chính phủ liên bang yêu cầu dừng các mô hình bị đánh giá là quá nguy hiểm.
AI là một động lực mạnh mẽ cho đổi mới và tôi muốn công nghệ này phát triển, nhưng không thể thiếu trách nhiệm giải trình và sự giám sát của con người.
– Nathaniel Moran, Hạ nghị sĩ Mỹ
Tổng kết
Việc chatbot cung cấp câu trả lời cho các truy vấn về vũ khí sinh học cho thấy rủi ro an toàn AI không chỉ nằm ở khả năng vượt bộ lọc, mà còn ở khoảng trống pháp lý về giám sát và báo cáo các hành vi nguy hiểm.
