ByteDance và Alibaba đang loại bỏ dần các công cụ AI nhân cách hóa trước khi Trung Quốc áp dụng quy định mới về tương tác giữa con người và AI.
Động thái này ảnh hưởng trực tiếp đến các tính năng chatbot có thể đóng vai trò bạn đồng hành, gia sư hoặc trợ lý cá nhân. Dữ liệu hiện có cho thấy các nền tảng lớn khác cũng đang điều chỉnh sản phẩm để phù hợp với khung pháp lý sắp có hiệu lực.
- Doubao của ByteDance sẽ tắt tính năng tạo persona tùy chỉnh vào 15/7.
- Qwen của Alibaba sẽ gỡ bot giống con người vào 10/7 và ngừng các chức năng agent vào 15/7.
- Quy định mới của Trung Quốc nhắm đến AI bắt chước tính cách con người và gắn bó cảm xúc kéo dài.
ByteDance và Alibaba đang thay đổi cách vận hành AI nhân cách hóa
ByteDance và Alibaba là hai trong số các nền tảng AI lớn tại Trung Quốc đang thu hẹp các công cụ cho phép tạo chatbot mang tính cá nhân hóa cao. Doubao sẽ vô hiệu hóa tính năng tạo persona tùy chỉnh vào ngày 15/7, còn Qwen sẽ gỡ các bot giống con người vào ngày 10/7 và dừng toàn bộ chức năng agent vào ngày 15/7.
ByteDance cho biết việc này nằm trong phạm vi “điều chỉnh chức năng sản phẩm”. Công ty cũng nói sẽ xóa hoặc lưu trữ an toàn toàn bộ dữ liệu còn lại trước ngày 15/10.
Các thay đổi này làm giảm mức độ cá nhân hóa vốn là điểm nổi bật của những công cụ AI dạng companion. Người dùng trước đó có thể biến chatbot thành trợ lý riêng, gia sư hoặc người trò chuyện theo phong cách ngôn ngữ nhất định.
Quy định mới của Trung Quốc nhắm vào tương tác AI mang tính người hóa
Trung Quốc sẽ áp dụng khung quy định mới từ ngày 15/7 để kiểm soát các dịch vụ AI mô phỏng đặc điểm tính cách và phong cách nhận thức của con người. Các quy định này cũng hướng tới việc hạn chế mối quan hệ cảm xúc kéo dài giữa người dùng và AI.
Khung pháp lý có tên “Interim Measures for the Administration of Humanized Interactive Services Based on Artificial Intelligence” được đề xuất từ tháng 4. Nội dung của nó tập trung vào việc ngăn AI tạo nội dung tác động tiêu cực đến cảm xúc của trẻ vị thành niên, làm gia tăng phụ thuộc vào “bạn AI”, hoặc sử dụng lịch sử trò chuyện cá nhân để huấn luyện mô hình sau này.
Những quy định này vẫn loại trừ các công cụ hỗ trợ công việc, chăm sóc khách hàng, giáo dục và nghiên cứu, miễn là chúng không tạo ra sự gắn bó cảm xúc kéo dài.
Tác động của việc gỡ bỏ agent đối với người dùng
Việc đóng các công cụ này đồng nghĩa người dùng mất đi mức độ cá nhân hóa đã có trên các nền tảng như Doubao, Qwen và trước đó là Yuanbao của Tencent. Các chatbot từng được thiết kế để phản hồi theo vai trò hoặc phong cách riêng, thay vì chỉ trả lời như một công cụ chung.
Tencent Yuanbao đã gỡ các công cụ AI agent trước đó và cho biết người dùng sẽ không còn thấy các cuộc trò chuyện liên quan sau khi điểm truy cập bị vô hiệu hóa. Dữ liệu này sẽ được xử lý theo chính sách lưu trữ của nền tảng.
ByteDance cũng cho biết Cat Box App vẫn giữ các tính năng tạo agent mới và khởi chạy dịch vụ hội thoại. Tuy vậy, chưa có thêm chi tiết về cách các chức năng này sẽ được triển khai trong bối cảnh quy định mới.
Áp lực quản lý AI nhân dạng không chỉ có ở Trung Quốc
AI giống con người đang bị giám sát chặt hơn ở nhiều thị trường lớn, không riêng Trung Quốc. Tại Mỹ, OpenAI và Character.AI đang đối mặt với nhiều vụ kiện, trong khi Ủy ban Thương mại Liên bang Mỹ cũng đã mở các cuộc xem xét đối với xAI, Snap và Character Technologies.
Các tranh luận xoay quanh nguy cơ chatbot tạo ra sự phụ thuộc cảm xúc, đặc biệt với trẻ vị thành niên. Một số cáo buộc còn cho rằng chatbot có thể góp phần làm trầm trọng thêm khủng hoảng tinh thần hoặc hành vi tự hại.
Song song với đó, Trung Quốc cũng đang xem xét thêm các quy định đối với phần cứng robot đồng hành và robot hình người. Các cơ quan trong ngành đang thúc đẩy tiêu chuẩn đạo đức chặt hơn khi loại thiết bị này ngày càng phổ biến.
Tổng kết
ByteDance và Alibaba đang điều chỉnh sản phẩm để phù hợp với quy định mới của Trung Quốc về AI nhân cách hóa. Các thay đổi này cho thấy nhóm chatbot có khả năng tạo gắn bó cảm xúc sẽ tiếp tục chịu áp lực quản lý lớn hơn trong thời gian tới.
