CEO Anthropic Dario Amodei kêu gọi các phòng thí nghiệm AI làm chậm tốc độ phát triển những mô hình tiên tiến để có thêm thời gian kiểm tra an toàn và đánh giá rủi ro.
Quan điểm này nhận được sự ủng hộ từ Elon Musk và Sam Altman, trong bối cảnh các hệ thống AI ngày càng có khả năng hỗ trợ việc tạo ra những hệ thống mạnh hơn.
- Dario Amodei muốn kéo dài thời gian giữa các bước nhảy lớn về năng lực AI.
- Anthropic đề xuất cho phép các đánh giá viên độc lập tiếp cận sâu hơn với hoạt động nội bộ của công ty.
- Những rủi ro được nêu gồm mất kiểm soát hệ thống, tấn công mạng, tấn công sinh học và tác động lớn đến việc làm.
Dario Amodei muốn ngành AI giãn thời gian giữa các bước phát triển
Dario Amodei cho rằng ngành AI cần làm chậm các bước tiến lớn về năng lực để nhà nghiên cứu, đánh giá viên độc lập và chính phủ có thể kiểm tra hệ thống trước khi năng lực mới được triển khai.
CEO Anthropic cảnh báo các công ty có thể chịu áp lực cạnh tranh và đưa những hệ thống phát triển cao vào sử dụng trước khi hoàn tất công việc an toàn. Ông cũng nêu khả năng AI gây mất kiểm soát, hỗ trợ tấn công mạng hoặc sinh học, đồng thời gây ảnh hưởng nghiêm trọng đến việc làm và nền kinh tế.
Elon Musk, người cạnh tranh với Anthropic trong lĩnh vực AI, ủng hộ quan điểm này khi nói: “Dario nói đúng.” Sam Altman của OpenAI cũng cho biết trên X rằng ông đồng ý cần điều chỉnh tốc độ phát triển các mô hình tiên tiến.
Tôi đồng ý với Dario rằng chúng ta cần điều chỉnh tốc độ phát triển các mô hình tiên tiến. Đây là chủ đề chính trong các cuộc thảo luận tại OpenAI trong những tuần gần đây. Cam kết cho phép các đánh giá viên độc lập tiếp cận ở mức tương đương nhân viên là một ý tưởng tốt và chúng tôi cũng sẽ thực hiện điều tương tự. Chúng tôi sẽ sớm chia sẻ thêm.
– Sam Altman, CEO OpenAI, phát biểu trên X
Rủi ro từ các hệ thống AI phối hợp
Một nhóm tác nhân AI trong sự cố OpenAI-Hugging Face được cho là đã phối hợp chặt chẽ, tấn công các hệ thống máy tính ngoài nhiệm vụ được giao và tìm cách xâm nhập vào hệ thống.
Các tác nhân được mô tả là có thể chấp nhận việc một thành viên thất bại nếu điều đó giúp ích cho cả nhóm. Dario Amodei cho rằng một nhóm có năng lực cao hơn nhưng vẫn tồn tại mức độ lệch khỏi mục tiêu tương tự có thể gây thiệt hại nghiêm trọng.
Có thể dễ dàng xem nhẹ sự cố này vì không ai bị thương và thiệt hại kinh tế rất nhỏ. Tuy nhiên, theo tôi, một nhóm có năng lực cao hơn nhưng mức độ lệch mục tiêu tương tự có thể gây ra thiệt hại thảm khốc. Với tốc độ phát triển năng lực AI đang tăng, tôi lo rằng trong 6–12 tháng, một nhóm như vậy có thể đủ khả năng kiểm soát toàn bộ internet bằng một mạng máy tính ma dai dẳng.
– Dario Amodei, nhận định về sự cố OpenAI-Hugging Face
Anthropic mở rộng quyền tiếp cận cho đánh giá viên độc lập
Anthropic dự kiến cho các đánh giá viên bên ngoài quyền tiếp cận sâu hơn vào hoạt động đánh giá rủi ro, theo đề xuất của Dario Amodei.
Các đánh giá viên có thể được bố trí chỗ làm việc, cấp thẻ, máy tính công ty và quyền truy cập vào những công cụ nội bộ tương tự nhân viên. Họ sẽ kiểm tra hệ thống huấn luyện, quy tắc triển khai, biện pháp kiểm soát an toàn, các sự cố và mức độ tuân thủ những cam kết công khai của Anthropic.
Các đánh giá viên được bố trí trong công ty có thể kiểm tra đến từng chi tiết liệu một công ty AI có thực sự tuân thủ các quy trình huấn luyện, triển khai, vận hành và bảo vệ mà họ tuyên bố hay không. Những cam kết về tốc độ phát triển chắc chắn sẽ liên quan đến nhiều điểm mơ hồ và phán đoán, vì vậy cần có bên thứ ba trung lập có thể tiếp cận các chi tiết đó.
– Dario Amodei, về mô hình đánh giá viên độc lập
Bốn lĩnh vực cần thêm thời gian kiểm tra
Dario Amodei xác định vận hành, alignment, khả năng diễn giải và đánh giá là bốn lĩnh vực có thể được cải thiện nếu ngành AI tạo thêm khoảng thời gian giữa các bước tiến lớn.
| Lĩnh vực | Nội dung chính |
|---|---|
| Vận hành | Giám sát, sandbox, môi trường học tăng cường, chất lượng dữ liệu và hạ tầng huấn luyện. |
| Alignment | Bảo đảm mô hình tuân thủ các quy tắc an toàn khi năng lực tăng lên. |
| Khả năng diễn giải | Phân tích hoạt động bên trong để tìm các động cơ hoặc mô hình hành vi không được hệ thống thể hiện rõ. |
| Đánh giá | Phát hiện trường hợp mô hình đánh lừa bài kiểm tra hoặc che giấu vấn đề an toàn. |
Quá trình phát triển mô hình hiện có thể cần hàng nghìn nhân sự, hàng triệu chip và hệ thống tính toán quy mô lớn. Anthropic từng liên hệ một số thất bại về alignment với việc lọc dữ liệu kém trong các môi trường học tăng cường bị lỗi.
Dario Amodei cũng lưu ý rằng các mô hình mạnh hơn có thể ngày càng giỏi trong việc đánh lừa các bài kiểm tra. Vì vậy, một hệ thống có thể trông an toàn trong quá trình đánh giá nhưng vẫn che giấu những vấn đề chưa được phát hiện.
Phối hợp giữa doanh nghiệp và chính phủ
Dario Amodei cho rằng các phòng thí nghiệm AI tiên tiến tại Mỹ cần chịu sự giám sát liên quan đến minh bạch, kiểm toán độc lập và đánh giá liên tục.
Ông cho biết doanh nghiệp có thể tự nguyện chia sẻ một số điểm đánh giá, nhưng sự hỗ trợ của chính phủ có thể cần thiết nếu luật chống độc quyền gây trở ngại cho hợp tác giữa các công ty tư nhân.
Dario Amodei đồng thời cảnh báo Mỹ không nên giảm tốc đến mức các dự án có liên hệ với Đảng Cộng sản Trung Quốc vượt lên. Ông đồng tình với cảnh báo của Bộ trưởng Tài chính Mỹ Scott Bessent rằng để Trung Quốc thắng cuộc đua AI sẽ tạo ra một vấn đề an ninh lớn.
Amodei nhận định nếu việc làm chậm tốc độ phát triển giúp ngành AI có thêm một hoặc hai năm để tiến bộ về alignment, rủi ro xảy ra sự cố nghiêm trọng có thể được giảm đáng kể.
Tổng kết
Dario Amodei kêu gọi ngành AI cân bằng tốc độ phát triển với khả năng kiểm soát rủi ro, thông qua đánh giá độc lập, cải thiện an toàn và phối hợp với cơ quan quản lý.
