Vitalik Buterin đang tham gia cuộc tranh luận về AI 2040, trong đó các bên bất đồng về tốc độ tiến bộ của trí tuệ nhân tạo, mức độ rủi ro và cách kiểm soát các hệ thống mạnh hơn con người.
Tranh luận này không chỉ xoay quanh an toàn AI mà còn chạm tới quyền lực công nghệ, mã nguồn mở và khả năng giám sát phát triển AI ở cấp chính sách.
- Vitalik Buterin cho rằng tranh cãi về AI xuất phát từ việc các bên không chia sẻ cùng giả định về tốc độ tiến bộ.
- Ông nêu phương án “plan A” với yêu cầu minh bạch rộng hơn và một cơ chế dừng khẩn cấp cho việc huấn luyện AI lớn.
- Cuộc thảo luận cũng kéo theo tranh cãi về vai trò của mô hình mã nguồn mở và cách Mỹ quản trị AI.
Vì sao tranh luận AI 2040 lại bùng lên
AI 2040 là cách gọi một kịch bản cho rằng siêu trí tuệ có thể xuất hiện vào năm 2040 nếu không có biện pháp mạnh để ngăn chặn. Nhóm phản đối kịch bản này cho rằng các bên ủng hộ đang đánh giá thấp khả năng phối hợp của con người và thổi phồng rủi ro tập trung quyền lực.
Vitalik Buterin nói ông không chắc kịch bản nào gần thực tế hơn. Ông viết rằng nếu AI hiện nay chỉ là công nghệ bình thường, ông sẽ nghiêng về phía hoài nghi; còn nếu siêu trí tuệ sẽ xuất hiện vào năm 2030 theo mặc định, ông sẽ gần với phe AI 2040 hơn.
Buterin cũng để ngỏ khả năng làm chậm hoặc tạm dừng phát triển AI nếu rủi ro trở nên nghiêm trọng.
Plan A của Vitalik Buterin muốn kiểm soát AI như thế nào
Plan A là một đề xuất yêu cầu công khai rộng hơn về những gì các nhóm đang xây dựng và có thêm “công tắc tắt” khẩn cấp để làm chậm hoặc dừng huấn luyện AI quy mô lớn khi cần. Mục tiêu là tạo thêm thời gian nếu tiến bộ AI đi quá nhanh.
Buterin cho rằng phương án này sẽ bị phản đối bởi những người tin rằng có thể chọn lọc chấp nhận một số ứng dụng AI nhưng bác bỏ những ứng dụng khác. Ông cũng thừa nhận không có kế hoạch nào hoàn hảo cho một quá trình chuyển đổi sang ASI.
ASI là viết tắt của trí tuệ nhân tạo siêu việt, tức hệ thống đủ mạnh để tự thực hiện bất kỳ nhiệm vụ nào mà không cần con người hỗ trợ.
Quan điểm của Yann LeCun và nhóm ủng hộ mã nguồn mở
Yann LeCun cho rằng an toàn AI về bản chất là một bài toán kỹ thuật và có thể được giải quyết bằng thiết kế lặp lại cẩn thận. Ông so sánh quá trình này với việc làm cho động cơ máy bay trở nên đáng tin cậy hơn theo thời gian.
LeCun nói đã mất 50 năm để hàng không đạt mức an toàn thực sự và cho rằng nỗi sợ AI hiện nay còn sớm, khi thế giới vẫn chưa tạo ra hệ thống có trí thông minh ngang con người. Ông cũng tiếp tục giữ quan điểm rằng các mô hình ngôn ngữ lớn chủ yếu là “máy tự động hoàn thành” chứ chưa có suy luận hay hiểu quan hệ nhân quả.
LeCun còn cho rằng rủi ro lớn nhất của AI là sự tập trung quyền lực vào một số công ty lớn, và giải pháp cho “chủ quyền AI” là các mô hình nền tảng mã nguồn mở.
Tranh cãi chính sách xoay quanh việc quản trị AI ở Mỹ
Adam Thierer cảnh báo cách Mỹ quản trị AI đang ở “ngã rẽ quan trọng”. Ông cho rằng quy trình xem xét AI hiện nay của Quốc hội còn rời rạc, thiếu minh bạch và có thể gây hại cho hệ sinh thái mã nguồn mở nếu việc phát triển phải phụ thuộc vào các thủ tục cấp phép đặc biệt.
Thierer nghiêng về cách tiếp cận “đổi mới không cần xin phép”, theo đó doanh nghiệp và cá nhân được phép xây dựng, phát hành AI tự do hơn, còn luật hiện hành sẽ xử lý các hành vi gây hại khi cần. Ông cũng ủng hộ các vùng thử nghiệm AI, yêu cầu một số mô hình phải mở và tăng đầu tư cho nghiên cứu.
Những câu hỏi thường gặp
AI 2040 là gì?
AI 2040 là kịch bản cho rằng siêu trí tuệ có thể xuất hiện vào năm 2040 nếu không có biện pháp ngăn chặn đủ mạnh.
Vitalik Buterin đề xuất gì để kiểm soát AI?
Vitalik Buterin đề xuất tăng minh bạch trong phát triển AI và có một cơ chế dừng khẩn cấp để làm chậm hoặc dừng các đợt huấn luyện lớn khi rủi ro tăng cao.
Yann LeCun nhìn nhận rủi ro AI ra sao?
Yann LeCun cho rằng an toàn AI là vấn đề kỹ thuật có thể giải quyết dần bằng thiết kế lặp lại, thay vì coi AI là mối đe dọa đã chắc chắn xảy ra ngay.
Vì sao mã nguồn mở được nhắc đến trong tranh luận này?
Mã nguồn mở được xem là một cách giảm sự tập trung quyền lực vào vài công ty lớn và giữ cho hệ sinh thái AI ít bị khóa chặt hơn.
Adam Thierer muốn hướng quản trị AI theo cách nào?
Adam Thierer ủng hộ cách tiếp cận cho phép đổi mới rộng hơn, dùng luật hiện hành để xử lý sai phạm và tránh tạo thêm rào cản cấp phép quá nặng.
Tổng kết
Tranh luận quanh AI 2040 cho thấy bất đồng hiện nay không chỉ nằm ở công nghệ, mà còn ở giả định về tốc độ phát triển, cách kiểm soát rủi ro và vai trò của mã nguồn mở trong hệ sinh thái AI.
