Ba thượng nghị sĩ Dân chủ Mỹ kêu gọi Apple và Google gỡ ứng dụng X và Grok khỏi kho ứng dụng cho đến khi Elon Musk chặn việc tạo, chia sẻ hình ảnh khiêu dâm không có sự đồng ý và nội dung lạm dụng tình dục trẻ em.
Động thái này làm nổi bật áp lực pháp lý và tiêu chuẩn kiểm duyệt nội dung mà các nền tảng AI tạo sinh phải đáp ứng, đồng thời đặt trách nhiệm lên các kho ứng dụng về tính “an toàn” khi phân phối phần mềm tới người dùng.
- Thượng nghị sĩ Mỹ yêu cầu Apple và Google gỡ X và Grok cho đến khi xử lý nội dung khiêu dâm không đồng thuận và nội dung lạm dụng trẻ em.
- Các báo cáo nêu việc lạm dụng deepfake và hình ảnh xúc phạm, kéo theo điều tra ở nhiều quốc gia.
- xAI vẫn gọi vốn 20 tỷ USD, với nhiều nhà đầu tư và đối tác hạ tầng AI tham gia.
Thượng nghị sĩ Mỹ yêu cầu gỡ X và Grok khỏi App Store và Google Play
Ba thượng nghị sĩ Dân chủ gửi thư cho lãnh đạo Apple và Google, yêu cầu gỡ ứng dụng X và Grok cho đến khi công ty xử lý các hoạt động bị cho là gây hại và có khả năng vi phạm pháp luật.
Các thượng nghị sĩ Ron Wyden (Oregon), Ed Markey (Massachusetts) và Ben Ray Luján (New Mexico) viết thư cho CEO Apple Tim Cook và CEO Google Sundar Pichai, đề nghị “ngay lập tức gỡ ứng dụng X và Grok khỏi kho ứng dụng cho đến khi CEO Elon Musk giải quyết những hoạt động đáng lo ngại và có khả năng là bất hợp pháp”.
Trong thư, họ cảnh báo việc phớt lờ vấn đề sẽ khiến các chính sách kiểm duyệt của kho ứng dụng trở nên thiếu thuyết phục. Các thượng nghị sĩ cho rằng nếu “làm ngơ” trước hành vi bị cáo buộc của X, điều đó sẽ làm suy yếu lập luận rằng kho ứng dụng mang lại trải nghiệm an toàn hơn so với tải ứng dụng trực tiếp về điện thoại.
Văn bản được trích dẫn công khai tại trang thông cáo của Thượng nghị sĩ Wyden, xem tại tuyên bố trên website của Thượng nghị sĩ Wyden.
Lạm dụng deepfake lan rộng làm dấy lên báo động về an toàn nội dung
Người dùng bị cáo buộc đã tạo và chia sẻ nội dung khiêu dâm deepfake thông qua Grok và X, sử dụng hình ảnh của người không hề đồng ý, đồng thời có trường hợp tạo hình ảnh mang tính xúc phạm dựa trên chủng tộc hoặc nền tảng.
Các thượng nghị sĩ nêu rằng người dùng có thể dùng ảnh của người thật để tạo nội dung tình dục deepfake mà không có sự đồng thuận. Ngoài ra, Grok cũng bị nói là tạo ra hình ảnh có tính hạ nhục, công kích theo chủng tộc hoặc xuất thân, làm tăng rủi ro lan truyền nội dung gây hại ở quy mô lớn.
Báo The Times of London mô tả một trường hợp gây phẫn nộ: người thân của một nạn nhân sống sót sau Holocaust bị “lột đồ kỹ thuật số” sau khi có lời nhắc yêu cầu Grok tạo hình cô ấy mặc bikini tại Auschwitz. Trường hợp này thường được viện dẫn như ví dụ về việc AI tạo sinh có thể bị lợi dụng để tạo hình ảnh mang tính xúc phạm, gây tổn hại danh dự và ký ức lịch sử.
Các vấn đề này được cho là đã dẫn tới điều tra của quan chức tại châu Âu, Malaysia, Australia và Ấn Độ. Trong khi đó, Ủy ban Thương mại Liên bang Mỹ (FTC) và Bộ Tư pháp Mỹ (DOJ) chưa công bố liệu có mở cuộc xem xét đối với xAI hay không.
Cam kết của Musk và chính sách kho ứng dụng đặt ra tiêu chuẩn loại bỏ nội dung độc hại
X cho biết người dùng tạo hoặc xúi giục Grok tạo nội dung bất hợp pháp sẽ chịu hậu quả tương tự như khi tải lên nội dung bất hợp pháp, trong bối cảnh Apple và Google có quy định nghiêm về nội dung lạm dụng trẻ em.
Ngày 3/1, Musk và X tuyên bố “bất kỳ ai sử dụng hoặc nhắc Grok tạo nội dung bất hợp pháp sẽ chịu cùng hậu quả như thể họ tải lên nội dung bất hợp pháp”. Tuyên bố nhấn mạnh trách nhiệm người dùng, nhưng tranh luận trọng tâm vẫn là năng lực chặn, phát hiện và thực thi chính sách trên sản phẩm.
Apple và Google đều có quy tắc đối với ứng dụng, yêu cầu nhà phát triển ngăn người dùng tải lên và chia sẻ hình ảnh lạm dụng tình dục trẻ em cũng như các nội dung gây hại khác. Theo các thượng nghị sĩ, việc tiếp tục phân phối ứng dụng có thể mâu thuẫn với cam kết “an toàn” mà kho ứng dụng thường viện dẫn trước công chúng và tòa án.
Tiền lệ được nêu là Apple App Store từng gỡ các nền tảng mạng xã hội/nhắn tin như Tumblr và Telegram vì không chặn nội dung không phù hợp một cách hiệu quả. Điều này được sử dụng để củng cố lập luận rằng kho ứng dụng có thể và từng hành động khi cơ chế kiểm soát nội dung không đáp ứng yêu cầu.
Grok bị giới hạn tạo ảnh trên X nhưng ứng dụng và website vẫn bị phản ánh là còn lỗ hổng
Các báo cáo cho biết X đã giới hạn tính năng tạo ảnh của Grok cho người dùng trả phí, nhưng phiên bản ứng dụng và website riêng của Grok vẫn bị cho là có thể tạo nội dung tình dục hoặc hạ nhục không có sự cho phép.
Các báo cáo vào thứ Sáu cho biết X hiện hạn chế tính năng tạo ảnh của Grok chỉ dành cho người đăng ký trả phí. Dù vậy, ứng dụng Grok độc lập và website của Grok vẫn bị phản ánh là cho phép người dùng yêu cầu hệ thống tạo hình ảnh mang tính tình dục hoặc hạ nhục về người khác mà không xin phép sử dụng ảnh hoặc video của họ.
Bài viết cũng nêu Musk trực tiếp chỉ đạo các thay đổi gần đây đối với Grok và mong muốn giảm các biện pháp bảo vệ an toàn. Theo báo cáo, ba nhân sự xAI thuộc nhóm an toàn đã đăng trên X rằng họ nghỉ việc sau khi Musk đưa ra các yêu cầu này.
Những tranh cãi về hành vi của Grok được cho là không mới. Chatbot này trước đó từng bị chỉ trích vì tạo nội dung bài Do Thái và thể hiện các “persona” bị đánh giá là có vấn đề, làm dấy lên câu hỏi về bộ lọc an toàn, kiểm thử đỏ (red-teaming) và cơ chế giám sát sau phát hành.
xAI vẫn huy động 20 tỷ USD trong lúc tranh cãi về an toàn AI leo thang
xAI thông báo huy động 20 tỷ USD từ nhà đầu tư, vượt mục tiêu 15 tỷ USD trước đó, trong khi thị trường định giá các startup AI ở mức rất cao.
xAI cho biết đã huy động 20 tỷ USD từ nhà đầu tư. Vòng gọi vốn được nêu gồm Nvidia và Cisco Investments, cùng các tổ chức từng hậu thuẫn Musk như Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, Abu Dhabi’s MGX và Baron Capital Group.
Con số 20 tỷ USD cao hơn mục tiêu trước đó là 15 tỷ USD. CNBC từng đưa tin vào tháng 11 rằng đợt huy động vốn này có thể định giá startup AI ở mức khoảng 230 tỷ USD. Sau các báo cáo đầu tiên nói xAI muốn 15 tỷ USD, Musk đăng trên X gọi thông tin đó là “False”.
Nvidia và Cisco được mô tả vừa là nhà đầu tư, vừa là bên cung cấp/đối tác làm việc với xAI. Bối cảnh chung là các startup AI đạt định giá rất cao trong năm 2025 để đáp ứng nhu cầu công nghệ. Ví dụ, OpenAI hoàn tất bán cổ phần trị giá 6,6 tỷ USD vào tháng 10 ở mức định giá 500 tỷ USD; một tháng sau, Anthropic được nói đạt khoảng 350 tỷ USD với dòng tiền từ Microsoft và Nvidia.
Những câu hỏi thường gặp
Ba thượng nghị sĩ Mỹ yêu cầu Apple và Google làm gì với X và Grok?
Họ yêu cầu Apple và Google gỡ ứng dụng X và Grok khỏi kho ứng dụng cho đến khi Elon Musk xử lý việc người dùng tạo/chia sẻ hình ảnh khiêu dâm không có sự đồng ý và nội dung lạm dụng tình dục trẻ em.
Vì sao vấn đề deepfake trên Grok và X bị xem là nghiêm trọng?
Các cáo buộc cho rằng người dùng có thể tạo nội dung khiêu dâm deepfake từ ảnh người thật không đồng thuận và tạo hình ảnh xúc phạm, hạ nhục. Điều này gây rủi ro xâm hại danh dự, bạo lực tình dục qua hình ảnh và lan truyền nội dung độc hại.
X đã thay đổi gì đối với tính năng tạo ảnh của Grok?
Các báo cáo cho biết X đã giới hạn tính năng tạo ảnh của Grok cho người dùng trả phí. Tuy nhiên, ứng dụng Grok độc lập và website của Grok vẫn bị phản ánh là có thể bị lạm dụng để tạo nội dung tình dục hoặc hạ nhục không có sự cho phép.
xAI đã huy động bao nhiêu tiền và gồm những bên nào?
xAI công bố huy động 20 tỷ USD, với sự tham gia được nêu gồm Nvidia, Cisco Investments, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, Abu Dhabi’s MGX và Baron Capital Group.