Anh siết quản lý chatbot AI để bảo vệ trẻ em online

Chính phủ Anh sẽ siết quy định với chatbot AI để buộc các nhà cung cấp chủ động ngăn chặn nội dung bất hợp pháp và tăng bảo vệ trẻ em khỏi nội dung gây hại.

Động thái này nhằm lấp “khoảng trống pháp lý” khiến chatbot vận hành ngoài các yêu cầu chính của luật an toàn trực tuyến, đồng thời làm rõ trách nhiệm của cả đơn vị phát triển, vận hành lẫn cách tuân thủ khi công nghệ thay đổi nhanh.

Anh dự kiến đưa chatbot AI vào phạm vi nghĩa vụ của luật an toàn trực tuyến

Chính phủ Anh muốn làm rõ cách thực thi Đạo luật An toàn Trực tuyến để chatbot AI phải tuân thủ như các nền tảng online khác, đặc biệt về ngăn nội dung bất hợp pháp và bảo vệ người dùng trẻ.

Thủ tướng Keir Starmer công bố quy trình nhằm xử lý khoảng trống pháp lý từng khiến nhiều nhà cung cấp chatbot không bị ràng buộc đầy đủ bởi các quy định an toàn online vốn thiết kế chủ yếu cho mạng xã hội và diễn đàn nơi người dùng đăng nội dung.

Theo định hướng mới, các công ty tạo và vận hành chatbot AI sẽ phải chủ động “siết” nội dung bất hợp pháp, đảm bảo nền tảng an toàn hơn cho trẻ em và thanh thiếu niên. Chính phủ cũng nhấn mạnh trách nhiệm của đơn vị vận hành chatbot và nghĩa vụ tuân thủ cần được quy định rõ thay vì để mơ hồ.

Starmer cảnh báo doanh nghiệp chatbot cần chịu cùng nghĩa vụ pháp lý như các công ty online khác, nếu không sẽ đối mặt chế tài. Trọng tâm là yêu cầu nhà cung cấp phải giám sát hệ thống và ngăn chặn tài liệu vi phạm pháp luật, thay vì chỉ phản ứng sau khi có sự cố.

Không công ty công nghệ nào được “miễn trừ” khi xử lý nội dung bất hợp pháp

Chính phủ Anh khẳng định không nền tảng công nghệ nào được đứng ngoài luật, và các nhà cung cấp chatbot AI có thể bị xử phạt nếu không thực hiện nghĩa vụ ngăn nội dung bất hợp pháp.

Thông điệp chính sách là đối xử chatbot AI không “nhẹ tay” hơn mạng xã hội, vì cách tiếp cận này có thể tạo lỗ hổng khiến trẻ em tiếp xúc nội dung độc hại hoặc không phù hợp. Chính phủ cho rằng khi chatbot nhắm tới nhóm người dùng trẻ, mức bảo vệ cần nghiêm ngặt hơn.

Anh muốn có quyền hạn mới để phản ứng nhanh trước rủi ro AI

Chính phủ Anh dự kiến bổ sung cơ chế cho phép cơ quan quản lý hành động nhanh khi rủi ro mới xuất hiện, thay vì chờ Quốc hội thông qua một bộ luật hoàn toàn mới.

Bên cạnh việc lấp khoảng trống pháp lý, định hướng “quyền hạn mới” nhằm giúp quy định theo kịp tốc độ phát triển của trí tuệ nhân tạo, khi công cụ AI liên tục cải tiến và mở rộng sang các lĩnh vực mới.

Chính phủ cho rằng rủi ro có thể bùng phát đột ngột, vì vậy cơ quan quản lý cần linh hoạt để yêu cầu biện pháp giảm thiểu phù hợp theo thời gian thực, thay vì để khoảng trống kéo dài trong giai đoạn chờ sửa luật.

Yêu cầu “an toàn theo thiết kế” cho chatbot AI để chặn nội dung vi phạm trước khi hiển thị

Nhà chức trách muốn các công ty thiết kế chatbot AI với biện pháp ngăn nội dung vi phạm ngay từ đầu, bao gồm khả năng phát hiện và chặn nội dung bất hợp pháp trước khi người dùng nhìn thấy.

Starmer nêu lo ngại về nội dung độc hại do AI tạo ra, trong đó có các trường hợp công nghệ bị lợi dụng để tạo hình ảnh mang tính tình dục của người khác mà không được đồng ý. Ông gọi các hành vi này là không thể chấp nhận và nhấn mạnh cần thực thi luật hiện hành.

Chính phủ cho biết việc tăng cường thực thi sẽ buộc doanh nghiệp xây hệ thống an toàn hơn “ngay từ khâu thiết kế”, thay vì vá lỗi sau. Điều này có thể bao gồm các lớp bảo vệ tích hợp trong phần mềm chatbot nhằm nhận diện và ngăn chặn nội dung bất hợp pháp.

Trách nhiệm cũng mở rộng sang hành vi của hệ thống AI: doanh nghiệp phải theo dõi đầu ra, nâng cấp tính năng an toàn để giảm rủi ro, và phản ứng nhanh khi phát hiện lỗi hoặc hành vi nguy hiểm.

Các biện pháp an toàn trẻ em có thể mở rộng sang mạng xã hội và tính năng gây nghiện

Chính phủ Anh xem việc siết chatbot AI là một phần trong bài toán an toàn trẻ em trên mọi nền tảng số, và đang cân nhắc thêm biện pháp như yêu cầu độ tuổi truy cập cùng hạn chế các cơ chế gây nghiện.

Các phương án đang được xem xét gồm quy định người dùng phải đạt độ tuổi nhất định mới được dùng mạng xã hội. Đồng thời, nhà chức trách đánh giá tác động của các tính năng như “cuộn vô hạn”, vốn có thể khuyến khích thời gian sử dụng quá mức và khiến người trẻ khó thoát khỏi nội dung độc hại hoặc gây nghiện.

Những thay đổi tiếp theo có thể đến sau các đợt tham vấn công chúng về phúc lợi trẻ em trên môi trường online. Phụ huynh, nhà giáo dục và chuyên gia an toàn bày tỏ lo ngại về sức khỏe tinh thần của người trẻ và mức độ tiếp xúc với nội dung không phù hợp.

Mục tiêu tổng thể là tạo môi trường internet an toàn hơn, nơi trẻ em có thể hưởng lợi từ công nghệ mà không phải đối mặt với nguy cơ gây hại nghiêm trọng.

Những câu hỏi thường gặp

Anh đang thay đổi điều gì với quy định dành cho chatbot AI?

Chính phủ Anh muốn làm rõ cách thực thi Đạo luật An toàn Trực tuyến để nhà cung cấp chatbot AI phải giám sát, ngăn và chặn nội dung bất hợp pháp, tương tự nghĩa vụ của các nền tảng online khác.

Vì sao chatbot AI được xem là có “khoảng trống pháp lý”?

Quy định an toàn online trước đây chủ yếu thiết kế cho mạng xã hội và diễn đàn đăng nội dung công khai, trong khi trách nhiệm của đơn vị vận hành chatbot AI và người dùng chatbot chưa được bao phủ rõ ràng.

“Quyền hạn mới” mà chính phủ nói đến nhằm mục đích gì?

Mục tiêu là giúp cơ quan quản lý phản ứng nhanh khi rủi ro công nghệ xuất hiện, thay vì phải chờ Quốc hội thông qua luật mới, qua đó giữ biện pháp bảo vệ theo kịp tốc độ phát triển AI.

Doanh nghiệp chatbot AI có thể phải làm gì để tuân thủ?

Họ có thể phải chủ động theo dõi đầu ra, tăng tính năng an toàn, và tích hợp cơ chế nhận diện để ngăn nội dung bất hợp pháp trước khi hiển thị cho người dùng, đồng thời xử lý nhanh khi phát hiện lỗi.

Anh có thể áp dụng thêm biện pháp nào để bảo vệ trẻ em trên nền tảng số?

Chính phủ đang cân nhắc yêu cầu độ tuổi tối thiểu khi truy cập mạng xã hội và xem xét hạn chế các tính năng như cuộn vô hạn, vốn có thể làm tăng thời gian sử dụng và phơi nhiễm nội dung độc hại.