Trung Quốc đang siết giám sát các hệ thống AI “giống người”, bắt buộc nhà cung cấp phải thông báo rõ cho người dùng khi họ đang tương tác với máy và tuân thủ các yêu cầu nghiêm ngặt về nội dung lẫn an ninh.
Dự thảo quy định mới nhấn mạnh cơ chế nhắc nhở định kỳ, rà soát bảo mật, đánh giá đạo đức và tuân thủ các chuẩn mực do nhà nước đặt ra, cho thấy Bắc Kinh theo đuổi song song hai mục tiêu: thúc đẩy phát triển AI để cạnh tranh, nhưng vẫn kiểm soát chặt rủi ro về an ninh và trật tự xã hội.
- Trung Quốc đề xuất yêu cầu AI “giống người” phải thông báo cho người dùng khi tương tác với máy, gồm cả nhắc lại theo chu kỳ.
- Nhà cung cấp phải trải qua rà soát an ninh, đánh giá đạo đức và báo cáo cơ quan quản lý trước khi triển khai tính năng AI “giống người”.
- Khung quản trị AI của Trung Quốc ưu tiên kiểm soát nội dung theo “giá trị cốt lõi xã hội chủ nghĩa”, làm dấy lên lo ngại về tự do ngôn luận.
Quy định đề xuất buộc AI “giống người” phải minh bạch với người dùng
Các quy định dự thảo yêu cầu nhà cung cấp phải cho người dùng biết họ đang dùng AI ngay khi đăng nhập và tiếp tục nhắc lại sau mỗi 2 giờ, đồng thời cảnh báo khi phát hiện người dùng có thể đang phụ thuộc quá mức vào hệ thống.
Trọng tâm của dự thảo là minh bạch tương tác người–máy. Theo đề xuất, nghĩa vụ “thông báo đang dùng AI” xuất hiện ở thời điểm bắt đầu sử dụng và lặp lại theo chu kỳ 2 giờ, nhằm giảm rủi ro người dùng nhầm AI là con người hoặc tin tưởng mù quáng vào phản hồi.
Ngoài nhắc nhở, nhà cung cấp còn phải đưa ra cảnh báo nếu hệ thống phát hiện dấu hiệu người dùng có thể đang dựa vào AI “quá nhiều”. Cách tiếp cận này gợi ý rằng cơ quan quản lý không chỉ quan tâm đến nội dung đầu ra, mà còn quan tâm đến hành vi sử dụng và tác động tâm lý, xã hội của sản phẩm AI.
Cơ quan quản lý không gian mạng của Trung Quốc đã đăng bản dự thảo để lấy ý kiến công chúng và tiếp nhận góp ý đến ngày 25/01.
Yêu cầu an ninh, đạo đức và kiểm soát nội dung được đặt ở mức cao
Doanh nghiệp cung cấp AI “giống người” phải thiết lập kiểm tra an ninh mạnh, quy trình đánh giá đạo đức và tuân thủ các hướng dẫn nghiêm ngặt về nội dung, bao gồm không phát tán nội dung bị coi là đe dọa an ninh quốc gia.
Dự thảo nêu rõ nghĩa vụ thiết lập các lớp kiểm tra bảo mật và cơ chế đánh giá đạo đức trước và trong quá trình vận hành. Đây là phần “đầu vào” quản trị, nhằm giảm nguy cơ lộ dữ liệu, rò rỉ thông tin, cũng như hạn chế các hành vi khai thác mô hình AI để tạo nội dung vi phạm.
Về chuẩn nội dung, hệ thống phải tuân theo điều được gọi là “giá trị cốt lõi xã hội chủ nghĩa”. Đồng thời, AI không được chia sẻ bất kỳ nội dung nào bị xem là đe dọa an ninh quốc gia. Các điều khoản này tạo ra ranh giới tuân thủ rộng, đi từ an ninh kỹ thuật đến kiểm duyệt thông tin.
Điều kiện triển khai AI “giống người” gắn với rà soát và nghĩa vụ báo cáo
Trước khi ra mắt tính năng AI “giống người”, doanh nghiệp phải hoàn tất rà soát an ninh và gửi báo cáo cho cơ quan quản lý internet cấp tỉnh; đồng thời phải nộp hồ sơ khi dịch vụ đạt ngưỡng người dùng nhất định.
Theo nội dung được công bố, doanh nghiệp phải hoàn thành rà soát an ninh và báo cáo cho cơ quan quản lý internet cấp tỉnh trước khi triển khai bất kỳ tính năng AI “giống người” nào. Điều này thiết lập cơ chế “tiền kiểm” đối với sản phẩm hoặc tính năng mới.
Dự thảo cũng quy định nghĩa vụ nộp báo cáo nếu dịch vụ đạt 1 triệu người dùng đăng ký hoặc 100.000 người dùng hoạt động hằng tháng. Các ngưỡng này phản ánh cách quản trị dựa trên mức độ ảnh hưởng: dịch vụ càng lớn, mức độ giám sát và nghĩa vụ tuân thủ càng cao.
Chi tiết về dự thảo có thể xem tại liên kết chính thức: văn bản quy định quản trị AI mới.
Trung Quốc thúc đẩy AI để cạnh tranh nhưng vẫn ưu tiên kiểm soát chặt
Động thái này cho thấy Trung Quốc vừa đẩy mạnh phát triển AI để hỗ trợ tăng trưởng và cạnh tranh quốc tế, vừa đặt kiểm soát nhằm tránh rủi ro cho an ninh và trật tự xã hội.
Về mặt chiến lược, Trung Quốc coi AI là đòn bẩy kinh tế và năng lực cạnh tranh toàn cầu. Song song, cơ quan chức năng nhấn mạnh nhu cầu kiểm soát để hạn chế các gián đoạn liên quan đến an ninh, ổn định xã hội và quản trị thông tin.
Cách tiếp cận “phát triển đi kèm kiểm soát” thể hiện qua việc kết hợp yêu cầu minh bạch với người dùng, cơ chế tiền kiểm (rà soát an ninh trước khi ra mắt), và các ràng buộc nội dung. Điều này khiến môi trường tuân thủ trở thành yếu tố quan trọng trong chiến lược sản phẩm AI tại thị trường Trung Quốc.
Kế hoạch quản trị AI toàn cầu cho thấy tham vọng dẫn dắt chuẩn mực quốc tế
Trung Quốc đã công bố kế hoạch hành động về quản trị AI toàn cầu, nhắm tới vai trò tiếng nói chủ đạo trong việc thiết lập quy tắc quốc tế và đề xuất cơ chế hợp tác mới về AI.
Trung Quốc công bố Kế hoạch hành động về quản trị AI toàn cầu vào ngày 26/07, đặt mục tiêu định hình thảo luận quốc tế về tiêu chuẩn và khung quản trị AI. Nội dung bao gồm đề xuất như Tổ chức Hợp tác Trí tuệ Nhân tạo Thế giới.
Trong kế hoạch, AI được mô tả là “một hàng hóa công cho cộng đồng quốc tế”, cần được quản lý theo định hướng “an toàn” và chia sẻ lợi ích. Tuy nhiên, các quan sát viên ở những quốc gia dân chủ cho rằng cách quản trị này có thể gắn chặt với mô hình kiểm soát thông tin.
Kiểm soát nội dung trên internet được phản ánh vào cách AI trả lời chủ đề nhạy cảm
Các chuyên gia cho rằng các biện pháp kiểm soát nội dung tương tự “tường lửa” cũng được áp dụng lên AI, thể hiện ở việc một số mô hình AI Trung Quốc từ chối thảo luận chủ đề bị coi là nhạy cảm.
Thực tế sử dụng các mô hình AI lớn tại Trung Quốc có thể cho thấy hành vi từ chối trả lời hoặc né tránh các chủ đề liên quan đến nội dung nhạy cảm theo quan điểm quản lý. Điều này khiến tranh luận về quản trị AI không chỉ xoay quanh an toàn kỹ thuật, mà còn chạm đến quyền tiếp cận thông tin.
Với người dùng và doanh nghiệp toàn cầu, hệ quả là trải nghiệm AI có thể khác biệt đáng kể theo từng khu vực pháp lý. Đối với các lĩnh vực nhạy cảm như tài chính, tiền điện tử, và thông tin thị trường, yêu cầu tuân thủ nội dung có thể ảnh hưởng đến cách AI giải thích dữ kiện, rủi ro và bối cảnh chính sách.
Chính sách AI của Trung Quốc bị đánh giá thấp về bảo vệ tự do ngôn luận
Một nghiên cứu công bố vào tháng 10 so sánh chính sách AI ở 6 quốc gia cho thấy Trung Quốc xếp cuối về bảo vệ tự do ngôn luận trong AI, trong khi Mỹ, EU, Brazil, Hàn Quốc và Ấn Độ có điểm số tốt hơn.
Kết quả này được mô tả là phù hợp với nhận thức phổ biến rằng hệ sinh thái AI trong nước chịu tác động mạnh của mục tiêu chính trị và giới hạn xã hội do chính quyền đặt ra. Đồng thời, hệ thống quản trị tại Trung Quốc được xây dựng như một mạng lưới nhiều quy định và yêu cầu phối hợp giữa nhà nước và doanh nghiệp.
Cách làm này khác với EU, nơi thông qua một đạo luật tổng thể mang tên AI Act. Trong khi đó, Trung Quốc vận hành bằng nhiều lớp quy định, áp dụng theo loại dịch vụ, tác động xã hội và mức độ nhạy cảm của nội dung.
Quy định về AI tạo sinh yêu cầu “giá trị cốt lõi xã hội chủ nghĩa” và chuẩn dữ liệu huấn luyện
Quy định tạm thời về quản lý dịch vụ AI tạo sinh yêu cầu doanh nghiệp ủng hộ “giá trị cốt lõi xã hội chủ nghĩa”, chặn nội dung bị xem là thách thức quyền lực nhà nước, và áp đặt tiêu chuẩn chính trị nghiêm ngặt đối với dữ liệu huấn luyện.
Khung quản lý nêu rằng dữ liệu huấn luyện phải đáp ứng chuẩn mực “sự thật”, “độ chính xác” và “tính khách quan”. Tuy nhiên, các điều khoản kèm theo đồng nghĩa doanh nghiệp không được dùng dữ liệu bị cho là thách thức hệ thống hiện tại, gây tổn hại danh tiếng quốc gia, tạo thông tin “có hại”, hoặc đi ngược phong tục, đạo đức và luân lý xã hội.
Trong thực tế, các yêu cầu về dữ liệu và nội dung có thể ảnh hưởng đến cách mô hình AI học và phản hồi. Với các chủ đề biến động cao như tiền điện tử và thị trường, sự khác biệt về phạm vi dữ liệu được phép sử dụng có thể tạo ra khác biệt đáng kể về độ đầy đủ của ngữ cảnh và mức độ thảo luận.
Những câu hỏi thường gặp
Quy định dự thảo của Trung Quốc yêu cầu AI “giống người” phải thông báo thế nào?
Nhà cung cấp phải thông báo cho người dùng rằng họ đang tương tác với AI khi người dùng đăng nhập lần đầu, và nhắc lại sau mỗi 2 giờ. Hệ thống cũng phải cảnh báo nếu phát hiện người dùng có thể đang phụ thuộc quá mức vào AI.
Doanh nghiệp có phải rà soát an ninh trước khi triển khai tính năng AI “giống người” không?
Có. Dự thảo yêu cầu doanh nghiệp hoàn tất rà soát an ninh và gửi báo cáo cho cơ quan quản lý internet cấp tỉnh trước khi ra mắt bất kỳ tính năng AI “giống người” nào.
Khi nào dịch vụ AI phải nộp báo cáo theo ngưỡng người dùng?
Doanh nghiệp phải nộp báo cáo nếu dịch vụ đạt 1 triệu người dùng đăng ký hoặc 100.000 người dùng hoạt động hằng tháng.
Trung Quốc có kế hoạch gì về quản trị AI toàn cầu?
Trung Quốc công bố Kế hoạch hành động về quản trị AI toàn cầu ngày 26/07, hướng tới vai trò lớn trong thiết lập quy tắc quốc tế, bao gồm đề xuất như Tổ chức Hợp tác Trí tuệ Nhân tạo Thế giới và nhấn mạnh quản lý AI theo định hướng “an toàn”.
Vì sao có lo ngại về tự do ngôn luận trong quản trị AI tại Trung Quốc?
Các ý kiến lo ngại xuất phát từ mô hình kiểm soát nội dung trên internet và việc AI có thể bị yêu cầu tuân theo “giá trị cốt lõi xã hội chủ nghĩa”, hạn chế thảo luận các chủ đề nhạy cảm, cũng như tiêu chuẩn chính trị nghiêm ngặt đối với dữ liệu huấn luyện.