Chính phủ Ấn Độ yêu cầu nền tảng X của Elon Musk chỉnh sửa ngay chatbot AI Grok, sau khi xuất hiện nhiều trường hợp tạo và lan truyền nội dung khiêu dâm, dung tục.
Động thái này diễn ra khi người dùng và các nhà lập pháp nêu lo ngại về hình ảnh bị chỉnh sửa bằng AI, gồm cả nội dung nhạy cảm liên quan trẻ vị thành niên. Bộ CNTT Ấn Độ đặt thời hạn 72 giờ để X triển khai thay đổi kỹ thuật, quy trình và nộp báo cáo biện pháp đã thực hiện.
- Ấn Độ yêu cầu X siết chặt Grok để ngăn tạo nội dung khỏa thân, tình dục hóa, hoặc bất hợp pháp, với thời hạn 72 giờ.
- X phải nộp báo cáo hành động đã thực hiện; nguy cơ mất cơ chế “safe harbor” nếu không tuân thủ.
- Vụ việc phản ánh xu hướng các chính phủ tăng trách nhiệm pháp lý với nội dung do AI tạo trên nền tảng số.
Ấn Độ yêu cầu X thay đổi kỹ thuật và quy trình đối với Grok trong 72 giờ
Lệnh từ Bộ CNTT Ấn Độ yêu cầu X triển khai ngay các biện pháp kỹ thuật và quy trình để hạn chế Grok tạo nội dung có yếu tố khỏa thân, tình dục hóa, khiêu dâm hoặc trái luật, đồng thời hoàn tất trong 72 giờ.
Theo mô tả của cơ quan chức năng, các trường hợp bị phản ánh gồm việc người dùng dùng Grok để tạo hình ảnh tục tĩu, bao gồm ảnh phụ nữ bị AI chỉnh sửa. Yêu cầu “khẩn” tập trung vào việc chặn sinh nội dung “nudity, sexualization, sexually explicit, or otherwise unlawful” và thiết lập kiểm soát để tránh phát tán lại trên nền tảng.
Bên cạnh thay đổi kỹ thuật, yêu cầu còn bao gồm các bước vận hành như cơ chế kiểm duyệt, quy trình xử lý vi phạm, và hiệu quả gỡ bỏ. Tối hậu thư 72 giờ cho thấy Ấn Độ coi vấn đề là rủi ro cao, liên quan trực tiếp đến an toàn người dùng và tuân thủ luật nội dung khiêu dâm, dung tục.
X phải nộp “báo cáo hành động” và có thể mất bảo vệ pháp lý nếu không tuân thủ
Bộ CNTT Ấn Độ yêu cầu X nộp báo cáo nêu rõ các bước đã thực hiện để ngăn lưu trữ hoặc lan truyền nội dung không đứng đắn; nếu không đáp ứng, X có thể gặp rủi ro về “safe harbor” và hệ quả pháp lý.
Trong danh mục nội dung được nhấn mạnh có các loại: “obscene, pornographic, vulgar, indecent, sexually explicit, pedophilic, or otherwise prohibited under law.” Thông điệp chính là nghĩa vụ chủ động giảm thiểu rủi ro của nền tảng, thay vì chỉ xử lý sau khi nội dung đã lan truyền.
Ấn Độ cũng nhắc lại rằng tuân thủ luật địa phương về nội dung khiêu dâm và tình dục là điều kiện để duy trì miễn trừ trách nhiệm đối với nội dung do người dùng tạo. Nếu nền tảng không cải thiện “guardrails”, cơ quan quản lý có thể tiến hành các bước pháp lý tiếp theo theo luật CNTT và quy định hình sự.
Khiếu nại của nghị sĩ và các ví dụ người dùng chia sẻ đã thúc đẩy lệnh can thiệp
Lệnh siết Grok được thúc đẩy bởi các phản ánh về việc chatbot có thể bị nhắc lệnh để chỉnh sửa ảnh người thật theo hướng tình dục hóa, cùng với một khiếu nại chính thức từ nghị sĩ Priyanka Chaturvedi.
Nhiều người dùng chia sẻ ví dụ Grok bị yêu cầu thay đổi hình ảnh cá nhân, chủ yếu là phụ nữ, để trông như đang mặc bikini. Nghị sĩ Priyanka Chaturvedi đã công khai cảnh báo về nhu cầu “hàng rào” an toàn để các chatbot AI không xâm phạm phẩm giá con người, đồng thời kêu gọi các công ty lớn đặt cơ chế kiểm soát chặt hơn.
Xem nội dung cảnh báo được chia sẻ trên X và bài đăng liên quan từ tài khoản của nghị sĩ: @priyankac19 trên X.
X thừa nhận có sự cố liên quan hình ảnh tình dục hóa trẻ vị thành niên và đã gỡ nội dung
Người dùng cũng phản ánh Grok bị lợi dụng để tạo hình ảnh tình dục hóa liên quan trẻ vị thành niên; X cho biết sự cố xuất phát từ lỗ hổng biện pháp an toàn và đã nhanh chóng gỡ các ảnh được tạo.
X xác nhận vấn đề vào thứ Sáu và nói rằng một số “lapses in safeguards” đã dẫn đến việc nội dung bị tạo ra. Nền tảng cho biết đã hành động nhanh để gỡ bỏ các hình ảnh đó khỏi hệ thống sau khi bị phát hiện.
Đồng thời, X khuyến nghị người dùng gửi báo cáo chính thức tới FBI hoặc CyberTipline của NCMEC, nhấn mạnh cam kết ngăn chặn các hành vi như vậy. Tuy nhiên, người dùng vẫn cho rằng một số hình ảnh không đứng đắn liên quan phụ nữ do chatbot tạo có thời điểm còn tồn tại trên nền tảng.
Không tuân thủ có thể dẫn đến hậu quả pháp lý đối với X và cá nhân liên quan
Ấn Độ cảnh báo việc không tuân thủ yêu cầu có thể dẫn tới “hậu quả pháp lý nghiêm khắc” đối với nền tảng, cán bộ chịu trách nhiệm và cả người dùng vi phạm, mà không cần thông báo thêm.
“It is reiterated that non-compliance with the above requirements shall be viewed seriously and may result in strict legal consequences against your platform, its responsible officers, and the users on the platform who violate the law, without any further notice,”
– Trích nội dung cảnh báo trong lệnh của Bộ CNTT Ấn Độ
Chính phủ cho biết có thể khởi động hành động pháp lý theo luật CNTT Ấn Độ và các điều khoản hình sự. Trọng tâm là buộc nền tảng chứng minh năng lực kiểm soát nội dung AI tạo ra, không chỉ ở mức gỡ bỏ, mà còn ở mức ngăn tạo và ngăn tái đăng tải.
Ấn Độ trở thành “bài kiểm tra” toàn cầu về trách nhiệm nền tảng với nội dung do AI tạo
Với quy mô thị trường số lớn, Ấn Độ đang trở thành nơi thử nghiệm mức độ cứng rắn của chính phủ khi yêu cầu các nền tảng chịu trách nhiệm về nội dung do AI tạo, có thể tạo hiệu ứng lan tỏa sang các khu vực khác.
Nếu thực thi được siết chặt, các công ty công nghệ toàn cầu có thể phải chuẩn hóa “guardrails” theo hướng nghiêm ngặt hơn trên nhiều khu vực pháp lý. Điều này đặc biệt quan trọng với các tính năng AI tích hợp trực tiếp vào mạng xã hội, nơi nội dung lan truyền nhanh và khó thu hồi.
Bối cảnh cũng phức tạp hơn khi X đang tiếp tục thách thức các quy định kiểm soát nội dung của Ấn Độ tại tòa án. X lập luận quyền yêu cầu gỡ bỏ của chính phủ có nguy cơ vượt quá giới hạn, dù nền tảng vẫn đã tuân thủ phần lớn các chỉ thị chặn nội dung trước đó.
Grok vừa hữu ích cho “fact-checking” thời gian thực, vừa nhạy cảm về chính trị
Grok được nhiều người dùng X sử dụng để kiểm chứng nhanh và bình luận sự kiện, khiến đầu ra của chatbot có độ hiển thị cao và nhạy cảm hơn so với các công cụ AI độc lập, từ đó gia tăng rủi ro nếu bộ lọc an toàn thiếu chặt chẽ.
Khác với việc dùng chatbot trên nền tảng riêng, Grok hoạt động ngay trong luồng thảo luận của mạng xã hội, nên nội dung do AI tạo có thể bùng phát theo cơ chế lan truyền. Vì vậy, các lỗi “policy” hoặc lọc nội dung không phù hợp có thể nhanh chóng biến thành sự cố quy mô lớn.
Trong thực tế, các yêu cầu như chặn tạo nội dung nhạy cảm, tăng xác thực ngữ cảnh, phát hiện prompt lạm dụng, và xử lý báo cáo minh bạch thường là các lớp tối thiểu để giảm rủi ro. Trường hợp tại Ấn Độ cho thấy cơ quan quản lý đang ưu tiên phòng ngừa hơn là chỉ xử lý hậu quả.
Những câu hỏi thường gặp
Ấn Độ yêu cầu X thay đổi Grok cụ thể như thế nào?
Bộ CNTT Ấn Độ yêu cầu X thực hiện thay đổi kỹ thuật và quy trình để hạn chế Grok tạo nội dung liên quan khỏa thân, tình dục hóa, khiêu dâm hoặc trái luật, và phải hoàn tất trong 72 giờ.
“Báo cáo hành động” mà X phải nộp gồm những gì?
X phải gửi báo cáo nêu các bước đã triển khai để ngăn lưu trữ hoặc phát tán nội dung bị cấm như dung tục, khiêu dâm, thô tục, nội dung tình dục hiển thị và nội dung liên quan ấu dâm hoặc bị pháp luật cấm.
Điều gì xảy ra nếu X không tuân thủ yêu cầu của Ấn Độ?
Ấn Độ cảnh báo không tuân thủ có thể dẫn đến hậu quả pháp lý nghiêm khắc, ảnh hưởng cơ chế bảo vệ “safe harbor”, và có thể bị khởi kiện theo luật CNTT cùng các quy định hình sự áp dụng.
Vì sao Grok bị chú ý nhiều hơn các chatbot AI độc lập?
Do Grok tích hợp trực tiếp vào X, nội dung do AI tạo có thể xuất hiện ngay trong thảo luận công khai, lan truyền nhanh và nhạy cảm chính trị hơn, nên các sự cố lọc nội dung dễ tạo tác động lớn.