Anthropic đã vô hiệu hóa hai mô hình AI mới nhất của mình sau khi Bộ Thương mại Mỹ yêu cầu hạn chế quyền truy cập đối với người nước ngoài.
Động thái này khiến một trong những đợt kiểm soát từ chính phủ đối với công nghệ AI tiên tiến trở thành sự kiện hiếm gặp, đồng thời đặt Anthropic vào thế phải xử lý cùng lúc cả áp lực pháp lý lẫn phản ứng về an toàn mô hình.
- Bộ Thương mại Mỹ yêu cầu hạn chế truy cập Claude Fable 5 và Claude Mythos 5 đối với mọi cá nhân nước ngoài.
- Anthropic đã tắt hai mô hình vì cho rằng không thể thực thi hiệu quả giới hạn theo quốc tịch.
- Vụ việc diễn ra ngay sau khi Fable 5 ra mắt và đang bị tranh cãi về an toàn, kiểm soát đầu ra và chính sách sử dụng.
Bộ Thương mại Mỹ yêu cầu hạn chế hai mô hình Claude mới
Bộ Thương mại Mỹ đã yêu cầu Anthropic hạn chế quyền truy cập vào Claude Fable 5 và Claude Mythos 5 đối với mọi người nước ngoài, kể cả người đang ở trong hay ngoài nước Mỹ. Anthropic sau đó đã vô hiệu hóa hai mô hình này.
Yêu cầu được đưa ra vào lúc 5:21 chiều theo giờ miền Đông Mỹ vào ngày 12/6. Theo Anthropic, công ty không thể thực thi hiệu quả các giới hạn dựa trên quốc tịch, nên quyết định tắt hai mô hình; các phiên bản Claude khác vẫn hoạt động.
Điều kiện cấp phép và phạm vi áp dụng của lệnh
Bất kỳ bên nào muốn xuất khẩu, tái xuất khẩu hoặc chuyển giao hai mô hình này tại Mỹ đều phải có giấy phép từ Bộ Thương mại. Anthropic cũng phải nộp hồ sơ xin cấp phép được xác thực riêng cho từng trường hợp.
Quy định này áp dụng trên diện rộng cho cả người dùng và nhân sự nước ngoài của Anthropic. Nếu không tuân thủ, các bên liên quan có thể đối mặt với tiền phạt và chế tài dân sự.
Anthropic phản đối đánh giá về rủi ro jailbreak
Anthropic cho rằng cáo buộc về “jailbreak” bị phóng đại và không đồng nghĩa với việc đã tìm ra cách vô hiệu hóa toàn bộ hệ thống an toàn của mô hình. Công ty nói kỹ thuật được nhắc tới chỉ yêu cầu mô hình rà soát một codebase cụ thể để tìm lỗi phần mềm.
Anthropic cho biết khi xem xét phần trình diễn, công ty chỉ phát hiện các lỗ hổng nhỏ đã được biết trước. Anthropic cũng nói đã thử nghiệm hàng nghìn giờ trước khi ra mắt cùng chính phủ Mỹ, Viện An toàn AI của Anh và các tổ chức tư nhân, nhưng không tìm thấy một phương thức phá vỡ an toàn mang tính phổ quát.
“Chúng tôi không đồng ý rằng việc phát hiện ra một khả năng jailbreak hẹp hòi nên là lý do để thu hồi một mô hình thương mại đã được triển khai tới hàng trăm triệu người. Nếu tiêu chuẩn này được áp dụng trên toàn ngành, chúng tôi tin rằng nó sẽ gần như khiến mọi đợt ra mắt mô hình mới của các nhà cung cấp AI tiên tiến bị dừng lại.”
– Anthropic
Fable 5 đã gặp tranh cãi ngay từ tuần ra mắt
Claude Fable 5 ra mắt ngày 9/6 và nhanh chóng bị chỉ trích vì các bộ lọc chuyển những truy vấn nhạy cảm về an ninh mạng, sinh học, hóa học và nghiên cứu AI sang mô hình cũ hơn. Người dùng cũng cho rằng mô hình này gặp khó với các câu hỏi sinh học cơ bản.
Anthropic sau đó đã điều chỉnh một chính sách liên quan đến việc giảm chất lượng đầu ra cho các câu hỏi về nghiên cứu AI tiên tiến mà không thông báo trước cho người dùng. Công ty cũng xin lỗi và nói các biện pháp bảo vệ trong tương lai sẽ được hiển thị rõ hơn.
Áp lực pháp lý và thương mại đang cùng lúc đè lên Anthropic
Anthropic cho biết đang làm việc với cơ quan chức năng để giải quyết vấn đề và sẽ cung cấp thêm thông tin trong vòng 24 giờ. Công ty nói đây là kết quả của một hiểu lầm từ phía chính phủ.
Vụ việc diễn ra trong thời điểm nhạy cảm khi Anthropic đã nộp hồ sơ mật cho kế hoạch IPO tại Mỹ và vừa được Reuters đưa tin là đã huy động 65 tỷ USD với định giá 965 tỷ USD. Ngoài áp lực từ cơ quan quản lý, công ty còn phải giữ niềm tin của khách hàng doanh nghiệp và nhà đầu tư.
Tổng kết
Việc Mỹ yêu cầu siết quyền truy cập hai mô hình Claude mới nhất cho thấy rủi ro pháp lý với AI tiên tiến đang tăng lên, ngay cả khi Anthropic đang cố bảo vệ lập luận về an toàn mô hình và tính hợp lý của cách triển khai.
