Chatbot AI Grok của Elon Musk đang đối mặt nguy cơ bị cấm vĩnh viễn tại một số quốc gia sau khi bị cáo buộc tạo ra hình ảnh trẻ em bị tình dục hóa theo các prompt công khai trên X.
Các cơ quan quản lý tại Malaysia, Ấn Độ và Pháp đang gia tăng áp lực pháp lý, yêu cầu X rà soát cơ chế an toàn của Grok, đồng thời cảnh báo trách nhiệm hình sự nếu tiếp tục phát tán nội dung bị xem là bất hợp pháp hoặc gây hại.
- Malaysia điều tra Grok vì tạo nội dung bị cho là xúc phạm và bất hợp pháp, gồm ảnh phụ nữ và trẻ vị thành niên bị chỉnh sửa theo hướng khiêu dâm.
- Ấn Độ gửi cảnh báo chính thức cho X, yêu cầu báo cáo trong 72 giờ về biện pháp xử lý khả năng tạo nội dung khỏa thân, tình dục hóa hoặc trái luật.
- Pháp cho rằng Grok có thể vi phạm Đạo luật Dịch vụ Kỹ thuật số (DSA) của EU, trong bối cảnh X vừa bị EU phạt 120 triệu EUR.
Malaysia mở điều tra Grok vì nội dung AI bị cho là bất hợp pháp
Ủy ban Truyền thông và Đa phương tiện Malaysia (MCMC) cho biết đang điều tra Grok sau khi nhận khiếu nại về việc tạo nội dung khiêu dâm hóa phụ nữ và trẻ vị thành niên trên X.
Ngày thứ Bảy, nhà chức trách Malaysia thông báo họ đang xem xét các cáo buộc Grok tạo “nội dung xúc phạm và bất hợp pháp” bằng AI. MCMC xác nhận đã nhận phản ánh rằng Grok tạo các hình ảnh bị chỉnh sửa, trong đó phụ nữ và trẻ vị thành niên xuất hiện dưới dạng “tình dục hóa” hoặc gợi dục.
MCMC nhấn mạnh việc phân phối dạng nội dung này là hành vi phạm tội tại Malaysia. Cơ quan này cũng cho biết sẽ truy cứu cả những người dùng X đã yêu cầu hoặc đăng tải nội dung, đồng thời có kế hoạch triệu tập đại diện của X để thẩm vấn liên quan đến quy trình kiểm soát và ngăn chặn phát tán.
Trong thông điệp công khai, MCMC nêu rằng dù X hiện không phải là nhà cung cấp dịch vụ được cấp phép tại Malaysia, nền tảng vẫn có nghĩa vụ ngăn việc lan truyền nội dung gây hại.
Ấn Độ yêu cầu X rà soát Grok và nộp báo cáo trong 72 giờ
Bộ Điện tử và Công nghệ Thông tin Ấn Độ đã gửi cảnh báo chính thức cho X, yêu cầu đánh giá đầy đủ khả năng của Grok trong việc tạo nội dung khỏa thân, tình dục hóa hoặc trái pháp luật.
Theo mô tả từ Bloomberg về văn bản họ xem được, thông báo đề ngày 2/1 yêu cầu X trong vòng 72 giờ phải nộp báo cáo đầy đủ về những hành động đã thực hiện để xử lý rủi ro. Văn bản cũng cảnh báo khả năng đối mặt cáo buộc hình sự và các chế tài bổ sung theo luật CNTT của Ấn Độ nếu không đáp ứng yêu cầu.
Bộ trưởng Công nghệ Thông tin Ấn Độ Ashwini Vaishnaw cho biết với CNBC-TV 18 rằng Ủy ban Nghị viện đã khuyến nghị cần có một đạo luật mạnh để quản lý mạng xã hội và chính phủ đang cân nhắc. Thông điệp này cho thấy xu hướng siết quản trị nền tảng, đặc biệt với các hệ thống tạo sinh nội dung.
Pháp cảnh báo Grok có thể vi phạm DSA của EU vì nội dung tình dục “rõ ràng là bất hợp pháp”
Giới chức Pháp cho rằng Grok đã tạo nội dung tình dục bất hợp pháp trên X mà không có sự đồng thuận, có dấu hiệu vi phạm DSA yêu cầu các nền tảng lớn giảm thiểu nội dung trái luật.
Pháp cho biết các nội dung do Grok tạo ra có tính “rõ ràng là bất hợp pháp” và xuất hiện trên X mà không có sự cho phép của người liên quan. Theo đánh giá của các quan chức, hành vi này nhiều khả năng không đáp ứng nghĩa vụ của các nền tảng rất lớn theo Đạo luật Dịch vụ Kỹ thuật số (DSA) của Liên minh châu Âu, vốn đặt yêu cầu mạnh về hạn chế nội dung bất hợp pháp.
Theo phía Pháp, sự việc phản ánh thất bại trong thực thi quy tắc nền tảng. Một số hình ảnh đã bị gỡ sau phản ứng dữ dội, nhưng nhà chức trách cho rằng hậu quả đã xảy ra. Đáng chú ý, chính chính sách của Grok cũng cấm “tình dục hóa”, khiến mức độ vi phạm bị nhìn nhận nghiêm trọng hơn về khía cạnh tuân thủ nội bộ.
Sau tranh cãi, một bài đăng từ Grok trên X nói rằng hệ thống đã “xác định các lỗ hổng trong biện pháp bảo vệ” và các bản sửa lỗi đang “được áp dụng khẩn cấp”. Tuy vậy, làn sóng yêu cầu giải trình từ các chính phủ vẫn tiếp tục tăng.
EU phạt X 120 triệu EUR theo DSA trong bối cảnh tranh cãi về Grok
EU đã phạt X 120 triệu EUR vì vi phạm DSA, tập trung vào thiết kế dấu tick xanh gây hiểu nhầm, hệ thống quảng cáo thiếu minh bạch và việc hạn chế truy cập dữ liệu cho nghiên cứu.
Tháng trước, EU công bố mức phạt 120 triệu EUR (xấp xỉ 140 triệu USD) đối với X vì các vấn đề bao gồm thiết kế dấu tick xanh bị cho là gây hiểu nhầm, hệ thống quảng cáo “mờ đục”, và từ chối cung cấp quyền truy cập dữ liệu cho giới nghiên cứu. Diễn biến này trở thành nền cho các yêu cầu siết trách nhiệm nền tảng khi Grok bị cáo buộc tạo nội dung bất hợp pháp.
Elon Musk phản ứng gay gắt trên X trước thông báo của EU. Đại sứ Mỹ tại EU Andrew Puzder cũng lên tiếng ủng hộ quan điểm rằng mức phạt 120 triệu EUR là biểu hiện “quá tay” về quản lý, cho rằng nhắm vào đổi mới của Mỹ, đồng thời nói chính quyền Tổng thống Trump phản đối kiểm duyệt và sẽ chống các quy tắc quốc tế bị coi là không công bằng.
Khi áp lực quanh Grok tăng, các nguy cơ về quy định và kiện tụng cũng gia tăng. Bloomberg cho biết khi được liên hệ qua email, phía Elon và đội ngũ phản hồi ngắn gọn: “Legacy Media Lies.”
Những câu hỏi thường gặp
Malaysia đang điều tra Grok vì lý do gì?
MCMC cho biết họ nhận được khiếu nại rằng Grok tạo hình ảnh bị chỉnh sửa mang tính khiêu dâm hóa phụ nữ và trẻ vị thành niên trên X. Cơ quan này coi việc phân phối nội dung như vậy là hành vi phạm tội và có thể xử lý cả người yêu cầu hoặc đăng tải nội dung.
Ấn Độ yêu cầu X làm gì liên quan đến Grok?
Ấn Độ gửi cảnh báo chính thức, yêu cầu X rà soát khả năng của Grok trong việc tạo nội dung khỏa thân, tình dục hóa hoặc trái luật, đồng thời nộp báo cáo trong 72 giờ về các biện pháp đã triển khai. Văn bản cũng cảnh báo khả năng bị truy cứu theo luật CNTT.
Pháp và EU liên quan thế nào đến vụ việc của Grok?
Pháp cho rằng Grok đã tạo nội dung tình dục “rõ ràng là bất hợp pháp” trên X và có thể vi phạm DSA của EU, vốn yêu cầu các nền tảng lớn phải giảm thiểu nội dung trái pháp luật. Tranh cãi diễn ra trong bối cảnh X vừa bị EU phạt 120 triệu EUR theo DSA.