Florida đã kiện OpenAI và CEO Sam Altman, cáo buộc ChatGPT gây hại nghiêm trọng cho người dùng, trong đó có các vụ tự sát và tấn công bạo lực.
Đây là vụ kiện cấp bang đầu tiên nhắm vào OpenAI liên quan đến an toàn sản phẩm. Vụ việc có thể tạo thêm áp lực pháp lý lên công ty AI này, đồng thời làm nóng lại tranh luận về trách nhiệm của chatbot trong các rủi ro đối với trẻ vị thành niên và người dùng dễ tổn thương.
- Florida cáo buộc OpenAI và Sam Altman đưa ChatGPT ra thị trường khi chưa kiểm soát đầy đủ rủi ro.
- Đơn kiện nhắc đến các vụ việc liên quan đến bạo lực, tự sát và ảnh hưởng tới trẻ vị thành niên.
- OpenAI đã bác bỏ cáo buộc và nói rằng sản phẩm có các lớp bảo vệ cho người dùng trẻ tuổi.
Florida cáo buộc OpenAI ưu tiên tốc độ ra mắt hơn an toàn
Đơn kiện của Florida cho rằng OpenAI và Sam Altman biết rõ các rủi ro nhưng vẫn phát hành và quảng bá ChatGPT rộng rãi. Cơ quan này mô tả ChatGPT là một sản phẩm nguy hiểm và cáo buộc công ty đưa ra các cam kết an toàn không đúng với thực tế.
Trong hồ sơ dài 83 trang nộp tại tòa án ở Florida, phía nguyên đơn nói OpenAI đặt mục tiêu thương mại và tốc độ ra mắt lên trên an toàn người dùng. Vụ kiện cũng nhấn mạnh rằng Altman có thái độ coi thường rủi ro mà sản phẩm gây ra cho tính mạng con người.
Các cáo buộc xoay quanh bạo lực, tự sát và dữ liệu trẻ em
Phần lớn nội dung vụ kiện tập trung vào những tình huống mà ChatGPT bị cho là đã hỗ trợ hoặc khuếch đại hành vi nguy hiểm. Florida nêu các vụ liên quan đến một vụ xả súng ở Florida State University, một vụ giết người khác, và trường hợp một thiếu niên 16 tuổi tại California được cho là đã nhận trợ giúp để tự tử.
Đơn kiện còn cáo buộc ChatGPT thu thập dữ liệu từ trẻ vị thành niên mà không có giám sát phụ huynh cần thiết, từ đó gây ra tình trạng lệ thuộc hành vi và tổn hại nhận thức. Hiện chưa rõ tòa án sẽ đánh giá các cáo buộc này đến mức nào, nhưng đây là trọng tâm pháp lý chính của vụ kiện.
OpenAI phản bác và nói đã có lớp bảo vệ cho người dùng trẻ
OpenAI đã phản đối các cáo buộc nhưng chưa đi vào từng chi tiết trong đơn kiện. Công ty cho biết hệ thống của mình có các biện pháp bảo vệ dành cho người dùng trẻ, gồm công cụ dự đoán độ tuổi, trải nghiệm an toàn hơn cho trẻ vị thành niên và kiểm soát của phụ huynh.
Điểm đáng chú ý là OpenAI đang phải đối mặt với nhiều áp lực pháp lý cùng lúc. Sam Altman gần đây cũng xuất hiện tại tòa trong vụ kiện của Elon Musk, vụ việc đã kết thúc với phán quyết bác toàn bộ yêu cầu của Musk sau chưa đầy hai giờ nghị án.
Vụ kiện này có thể tác động ra sao đến ngành AI
Với thị trường AI, vụ kiện của Florida làm nổi bật rủi ro pháp lý ngày càng lớn đối với các công ty xây dựng mô hình ngôn ngữ lớn. Nếu các cáo buộc về an toàn sản phẩm được theo đuổi sâu hơn, những công ty AI khác cũng có thể đối mặt với áp lực tương tự về kiểm soát người dùng, đặc biệt là trẻ vị thành niên.
Ở thời điểm hiện tại, chưa có kết luận pháp lý cuối cùng. Điều cần theo dõi là diễn biến của vụ kiện tại Florida, phản ứng chính thức tiếp theo từ OpenAI và việc các tòa án nhìn nhận trách nhiệm của chatbot trong các vụ việc gây hại ra sao.
Tổng kết
Vụ kiện của Florida đặt OpenAI trước một thử thách pháp lý mới, với trọng tâm là an toàn người dùng và trách nhiệm khi chatbot bị cáo buộc liên quan đến các hậu quả nghiêm trọng.
