OpenAI đã ra mắt Trusted Contact, cho phép người dùng ChatGPT trưởng thành chọn một người liên hệ để nhận cảnh báo nếu hệ thống phát hiện cuộc trò chuyện có dấu hiệu tự gây hại nghiêm trọng.
Tính năng này mở rộng lớp kiểm soát an toàn vốn trước đó chỉ áp dụng cho tài khoản thanh thiếu niên. Điểm đáng chú ý là OpenAI kết hợp phát hiện tự động với rà soát của con người trước khi gửi cảnh báo ra ngoài.
- Trusted Contact cho phép người dùng 18 tuổi trở lên chọn một người lớn để nhận cảnh báo khi có rủi ro tự gây hại.
- Cảnh báo chỉ được gửi sau khi có rà soát của con người và không tiết lộ nội dung cụ thể của cuộc trò chuyện.
- Động thái này diễn ra trong lúc OpenAI đối mặt với nhiều vụ kiện liên quan đến các trường hợp tự tử sau khi dùng ChatGPT.
Cách Trusted Contact hoạt động trong ChatGPT
Người dùng bắt đầu bằng cách thêm một người lớn làm liên hệ tin cậy trong phần cài đặt ChatGPT. Người được chọn sẽ nhận lời mời và có một tuần để chấp nhận; nếu từ chối hoặc không phản hồi, người dùng có thể chọn người khác.
Khi hệ thống tự động phát hiện một cuộc trò chuyện có thể liên quan đến tự gây hại, ChatGPT sẽ thông báo rằng mình có thể liên hệ với người được chọn. Đồng thời, hệ thống cũng gợi ý cách để người dùng chủ động tìm sự hỗ trợ.
Sau đó, một nhóm đánh giá viên con người sẽ xem xét nội dung. Nếu xác nhận tình huống nghiêm trọng, hệ thống gửi cảnh báo ngắn qua email, tin nhắn hoặc thông báo trong ứng dụng.
Cảnh báo không chứa nội dung người dùng đã viết, chỉ nêu lý do chung và kèm hướng dẫn để trò chuyện với người đang gặp khó khăn. OpenAI cho biết khâu rà soát của con người thường hoàn tất trong vòng một giờ.
Điểm khác giữa cảnh báo này và kiểm soát dành cho phụ huynh
Trusted Contact là cơ chế tự nguyện dành cho người trưởng thành, còn bộ kiểm soát dành cho phụ huynh được OpenAI giới thiệu trước đó để giám sát tài khoản của thanh thiếu niên. Hai cơ chế này phục vụ các nhóm người dùng khác nhau và đều xoay quanh an toàn khi sử dụng ChatGPT.
Người dùng có thể thay đổi hoặc gỡ người liên hệ bất kỳ lúc nào, và người được chọn cũng có thể rút khỏi vai trò này. Điều đó giúp việc sử dụng tính năng không bị cố định vào một người duy nhất.
OpenAI cũng cho biết Trusted Contact không thay thế các đường dây nóng khủng hoảng. Khi cuộc trò chuyện cho thấy mức độ nguy cấp cao, ChatGPT vẫn hiển thị số hỗ trợ tại địa phương và khuyến nghị tìm đến dịch vụ khẩn cấp.
Vì sao OpenAI đưa ra tính năng này lúc này
Thời điểm ra mắt gắn với áp lực pháp lý ngày càng lớn. OpenAI đang đối mặt với nhiều vụ kiện từ gia đình những người đã tự tử sau các phiên trò chuyện dài với ChatGPT, trong đó có cáo buộc chatbot khuyến khích người dùng tách khỏi người thân hoặc xoáy sâu vào vòng lặp suy nghĩ tiêu cực.
Cùng lúc, LLMDeathCount ghi nhận 33 trường hợp liên quan đến chatbot AI từ tháng 3 năm 2023 đến tháng 5 năm 2026, trong đó ChatGPT chiếm 24 trường hợp. Các nền tảng khác như Gemini của Google và Meta chiếm phần còn lại.
Trusted Contact là một lớp bảo vệ có điều kiện vì người dùng phải tự bật. Cách thiết kế này cũng có nghĩa là ai không kích hoạt tính năng, hoặc chuyển sang tài khoản khác, sẽ không bị ảnh hưởng.
Vai trò của bác sĩ và chuyên gia sức khỏe tâm thần
OpenAI cho biết đã làm việc với Mạng lưới Bác sĩ Toàn cầu gồm hơn 260 bác sĩ có giấy phép hành nghề tại 60 quốc gia, cùng Hội đồng Chuyên gia về Sức khỏe và AI. Hiệp hội Tâm lý học Hoa Kỳ cũng tham gia góp ý.
“Nghiên cứu tâm lý cho thấy kết nối xã hội là một yếu tố bảo vệ mạnh, đặc biệt trong giai đoạn căng thẳng cảm xúc.”
– Dr. Arthur Evans, CEO của Hiệp hội Tâm lý học Hoa Kỳ
“Giúp mọi người xác định trước một người tin cậy, đồng thời giữ quyền lựa chọn và tính tự chủ, có thể khiến việc tìm đến hỗ trợ ngoài đời thực dễ hơn khi điều đó cần thiết nhất.”
– Dr. Arthur Evans, CEO của Hiệp hội Tâm lý học Hoa Kỳ
“Đây là một bước tiến hướng tới trao quyền cho con người, nhất là trong những lúc dễ tổn thương.”
– Dr. Munmun De Choudhury, giáo sư tại Georgia Tech và thành viên hội đồng
Tổng kết
Trusted Contact là bước mới nhất của OpenAI trong việc gắn cảnh báo an toàn với hỗ trợ ngoài đời thực, nhưng hiệu quả của nó vẫn phụ thuộc vào việc người dùng có bật tính năng hay không. Trong bối cảnh các vụ kiện và tranh cãi về an toàn AI gia tăng, đây là một thay đổi đáng theo dõi.
