Trưởng nhóm nghiên cứu an toàn “Safeguards” của Anthropic, Mrinank Sharma, tuyên bố nghỉ việc và cảnh báo “thế giới đang lâm nguy”, làm dấy lên tranh luận về việc tốc độ phát triển AI đang vượt xa năng lực quản trị rủi ro và giá trị đạo đức.
Việc rời đi đột ngột của một nhà nghiên cứu an toàn cấp cao tại công ty đứng sau Claude xảy ra trong bối cảnh cạnh tranh AI tăng tốc. Lá thư từ chức của Sharma được nhiều người xem như tín hiệu về căng thẳng giữa an toàn AI, áp lực thị trường và động lực địa chính trị.
- Mrinank Sharma, người dẫn dắt nhóm Safeguards của Anthropic, đã từ chức và thu hút chú ý vì cảnh báo “thế giới đang lâm nguy”.
- Lá thư dùng nhiều ngôn ngữ triết học, nhấn mạnh “đa khủng hoảng” và “siêu khủng hoảng” hơn là cáo buộc nội bộ.
- Thông điệp cốt lõi: hệ thống cạnh tranh và áp lực tăng trưởng có thể khiến an toàn, đạo đức AI bị đẩy xuống ưu tiên thấp hơn.
Sharma rời Anthropic sau khi dẫn dắt nhóm Safeguards
Sharma thông báo nghỉ việc trên X và rời vai trò lãnh đạo nhóm Safeguards Research Team, đơn vị tập trung nhận diện và giảm thiểu rủi ro từ các hệ thống AI đã triển khai như Claude.
Sharma từng dẫn dắt nhóm nghiên cứu Safeguards tại Anthropic, công ty AI nổi bật với mô hình ngôn ngữ lớn Claude, thường được xem là đối thủ của ChatGPT. Việc rời đi gây chú ý vì nhóm Safeguards mới được công bố chính thức vào tháng 2 năm trước, và nhiệm vụ trọng tâm là hiểu rủi ro từ AI triển khai thực tế, sau đó đề xuất biện pháp giảm thiểu.
Trên mạng xã hội, sự kiện này tạo tranh luận vì Sharma là gương mặt an toàn AI cấp cao tại một trong các công ty AI lớn của Mỹ. Nhiều ý kiến tập trung vào mức độ nghiêm trọng của thông điệp, và việc rời đi được nhìn như một phần của xu hướng nhân sự cấp cao rời các công ty AI trong thời gian gần đây.
Lá thư từ chức gây chú ý vì câu “thế giới đang lâm nguy”
Điểm gây tranh cãi nhất là đoạn Sharma cảnh báo “thế giới đang lâm nguy” do nhiều khủng hoảng liên kết, không chỉ riêng AI hay vũ khí sinh học.
Trong lá thư từ chức đăng trên X, Sharma viết theo hướng ẩn dụ, cho rằng rủi ro hiện tại đến từ “một chuỗi khủng hoảng có liên hệ đang diễn ra ngay lúc này”. Cách diễn đạt này khiến nhiều người diễn giải như một cảnh báo về rủi ro hiện sinh khi AI tiến bộ nhanh hơn xã hội có thể kiểm soát.
“Thế giới đang lâm nguy… không chỉ vì AI hay vũ khí sinh học, mà vì một chuỗi khủng hoảng có liên hệ đang diễn ra ngay lúc này.”
– Mrinank Sharma, thư từ chức trên X
Thông điệp chính của Sharma nghiêng về “divergence” triết học hơn là tranh chấp nội bộ
Ngôn ngữ trong thư cho thấy Sharma rời đi vì khác biệt về giá trị và cách nhìn thời cuộc, thay vì cáo buộc Anthropic có hành vi sai phạm cụ thể.
Trong phần mở đầu, Sharma nói về động lực cá nhân, nhấn mạnh “sẵn sàng đưa ra quyết định khó khăn và đứng về điều đúng”. Ông cũng nêu các đóng góp tại Anthropic, gồm phát triển và triển khai biện pháp phòng vệ “giảm rủi ro khủng bố sinh học có trợ giúp bởi AI”, viết một trong những “hồ sơ/lập luận an toàn AI” đầu tiên, và dự án cuối cùng tập trung vào việc “AI assistant có thể khiến chúng ta kém ‘người’ hơn hoặc bóp méo tính người như thế nào”.
Đoạn khiến nhiều người lo ngại nhất là phần Sharma mô tả nhân loại “đang chạm một ngưỡng” nơi trí tuệ và sự khôn ngoan phải tăng tương xứng với năng lực tác động lên thế giới, nếu không sẽ gánh hậu quả. Ông cũng nói đã nhiều lần chứng kiến việc “thật khó để giá trị thực sự chi phối hành động”.
Sharma dùng các khái niệm “poly-crisis” (đa khủng hoảng) và “meta-crisis” (siêu khủng hoảng) để mô tả vấn đề mang tính cấu trúc: công nghệ tiến nhanh hơn trí tuệ tập thể. Theo logic này, các hệ thống quyền lực và cơ chế ra quyết định đang quản lý, ảnh hưởng hướng phát triển công nghệ có thể không theo kịp bối cảnh thế giới hiện tại.
Hàm ý lớn: cạnh tranh AI có thể đẩy an toàn và đạo đức xuống ưu tiên thấp
Lá thư gợi ra căng thẳng hệ thống: các công ty AI vừa phải cạnh tranh tăng trưởng vừa phải kiểm soát rủi ro, trong khi động lực thị trường và địa chính trị thường thưởng cho tốc độ hơn là thận trọng.
Sharma dường như cho rằng có vấn đề nền tảng trong cách các công ty công nghệ điều hướng tốc độ tăng tốc AI trong một hệ thống cạnh tranh. Khi các cường quốc bước vào “cuộc chạy đua” công nghệ, doanh nghiệp AI trở thành một phần của cạnh tranh địa chính trị, đồng thời vẫn chịu nghĩa vụ với cổ đông, tạo động lực vượt đối thủ về năng lực kỹ thuật và sản phẩm.
Trong môi trường đó, nguyên tắc và quy trình an toàn phải “tương thích” với áp lực thị trường, năng lực cạnh tranh quốc gia và kỳ vọng nhà đầu tư. Nhưng khi năng lực AI mở rộng nhanh, yêu cầu nhận diện, hiểu và giảm thiểu rủi ro cũng tăng theo. Sharma ám chỉ hệ thống vận hành hiện nay có xu hướng ưu tiên tăng trưởng hơn an toàn và đạo đức, tạo ra hệ quả mà ông coi là “mang tính hiện sinh”.
Từ lập luận trong thư, việc rút lui có thể là cách Sharma tránh phải thỏa hiệp giá trị cá nhân. Điều này không khẳng định sai phạm của bất kỳ tổ chức nào, nhưng đặt câu hỏi rõ ràng cho ngành: làm sao thiết kế cơ chế quản trị để an toàn AI không bị xem như chi phí phụ trong cuộc đua năng lực.
Những câu hỏi thường gặp
Mrinank Sharma là ai và ông làm gì tại Anthropic?
Mrinank Sharma là nhà nghiên cứu an toàn AI và từng dẫn dắt Safeguards Research Team tại Anthropic. Nhóm này tập trung nhận diện, phân tích và hỗ trợ giảm thiểu rủi ro từ các hệ thống AI đã triển khai, như Claude.
Vì sao lá thư từ chức của Sharma gây tranh cãi?
Lá thư thu hút chú ý vì Sharma cảnh báo “thế giới đang lâm nguy” và mô tả các khủng hoảng liên kết, khiến nhiều người diễn giải đây là lời cảnh báo về rủi ro hiện sinh xoay quanh tiến bộ AI và bối cảnh toàn cầu.
Sharma có cáo buộc Anthropic làm sai điều gì không?
Trong nội dung được nêu, Sharma không trực tiếp cáo buộc Anthropic sai phạm. Cách diễn đạt cho thấy ông nhấn mạnh khác biệt về triết lý và vấn đề cấu trúc của hệ thống cạnh tranh, nơi tăng trưởng có thể được ưu tiên hơn an toàn và đạo đức.
“Poly-crisis” và “meta-crisis” trong thư của Sharma nghĩa là gì?
Sharma dùng “poly-crisis” để chỉ nhiều khủng hoảng xảy ra đồng thời và có liên hệ với nhau, còn “meta-crisis” là lớp vấn đề sâu hơn đứng phía sau. Theo mạch lập luận, đây là bối cảnh khiến việc quản trị rủi ro công nghệ, gồm AI, trở nên khó hơn.
