Anthropic cho biết ba công ty AI Trung Quốc đã tạo hơn 24.000 tài khoản giả để gửi 16 triệu prompt vào Claude, nhằm trích xuất đầu ra phục vụ “distillation” và tăng tốc huấn luyện mô hình cạnh tranh.
Diễn biến này làm nóng tranh luận về bảo mật dữ liệu huấn luyện, ranh giới giữa tối ưu mô hình hợp lệ và sao chép năng lực, đồng thời tác động mạnh tới nhóm cổ phiếu an ninh mạng khi Anthropic ra mắt công cụ kiểm tra lỗ hổng trong mã nguồn.
- Anthropic cáo buộc DeepSeek, Moonshot AI và MiniMax dùng tài khoản giả để trích xuất dữ liệu từ Claude ở quy mô lớn.
- Distillation có thể là kỹ thuật tối ưu hợp lệ, nhưng cũng có thể giúp tạo mô hình đối thủ nhanh và rẻ hơn.
- Thị trường phản ứng tiêu cực với cổ phiếu an ninh mạng khi Anthropic tung công cụ bảo mật mới cho Claude.
Anthropic cáo buộc 3 công ty AI Trung Quốc trích xuất dữ liệu từ Claude bằng tài khoản giả
Anthropic nói DeepSeek, Moonshot AI và MiniMax đã tạo hơn 24.000 tài khoản giả và gửi hơn 16 triệu prompt vào Claude để thu thập phản hồi, từ đó tái sử dụng cho mục tiêu huấn luyện mô hình.
Anthropic cho biết mục tiêu là “kéo” được mẫu phản hồi và các khuôn dạng trả lời có thể tái sử dụng trong đào tạo. Công ty nêu rõ đây là hành vi trích xuất giá trị “ở tốc độ cao” thông qua khối lượng truy vấn lớn, vượt xa mức sử dụng bình thường của người dùng hoặc thử nghiệm tiêu chuẩn.
Trong bài đăng blog công bố vào thứ Hai, Anthropic mô tả hoạt động này như một dạng distillation, tức dùng đầu ra của một mô hình để huấn luyện mô hình khác. Anthropic do Dario Amodei lãnh đạo.
Anthropic cho biết họ quan sát được mức độ tương tác khác nhau theo từng bên. Theo mô tả, DeepSeek thực hiện khoảng 150.000 lượt tương tác với Claude, Moonshot AI ghi nhận hơn 3,4 triệu prompt, còn MiniMax vượt 13 triệu prompt. Anthropic nhận định quy mô này cho thấy chủ đích trích xuất năng lực một cách có hệ thống.
Distillation vừa là kỹ thuật hợp pháp vừa có thể bị lạm dụng để tạo mô hình đối thủ
Distillation có ứng dụng hợp lệ khi một công ty tạo phiên bản nhỏ hơn từ chính mô hình của mình, nhưng cũng có thể bị dùng để sao chép năng lực và rút ngắn thời gian, chi phí xây dựng mô hình cạnh tranh.
Anthropic nhấn mạnh distillation không đồng nghĩa hành vi sai trái trong mọi trường hợp. Nhiều nhóm phát triển dùng distillation để tối ưu chi phí vận hành, giảm độ trễ, hoặc triển khai lên thiết bị tài nguyên thấp bằng cách kế thừa “kiến thức” từ mô hình lớn sang mô hình nhỏ.
Tuy vậy, Anthropic lập luận cùng phương pháp này có thể tạo ra hệ thống đối thủ trong “một phần” thời gian và chi phí so với việc thu thập dữ liệu gốc và huấn luyện từ đầu. Trong bối cảnh cạnh tranh AI, việc dùng lượng prompt khổng lồ để thu thập mẫu đầu ra có thể trở thành con đường tắt nhằm bắt chước hành vi của mô hình mục tiêu.
Anthropic cũng đề cập vai trò ngày càng lớn của dữ liệu tổng hợp trong huấn luyện các mô hình nền tảng, khi dữ liệu thực chất lượng cao bị giới hạn. Công ty lưu ý nhiều phòng thí nghiệm đang phát triển hệ thống tác nhân (agentic) có khả năng hành động thay người dùng. Moonshot cho biết trong một báo cáo kỹ thuật tháng 7 rằng họ dùng dữ liệu tổng hợp để huấn luyện mô hình Kimi K2.
OpenAI nêu cáo buộc tương tự với DeepSeek trước các nhà lập pháp Mỹ
OpenAI cho biết đã gửi bản ghi nhớ tới các nghị sĩ Hạ viện Mỹ, cáo buộc DeepSeek sử dụng distillation theo cách tương tự để mô phỏng hệ thống của OpenAI thông qua khối lượng prompt lớn.
Thông tin này xuất hiện đầu tháng, khi OpenAI nói với các nhà lập pháp rằng DeepSeek cố gắng bắt chước sản phẩm của họ bằng cách đẩy cao số lượng truy vấn để thu thập phản hồi. OpenAI do Sam Altman điều hành.
Việc cả Anthropic và OpenAI cùng mô tả mô-típ “khai thác đầu ra mô hình bằng prompt quy mô lớn” cho thấy các hãng AI Mỹ đang xem đây là rủi ro cạnh tranh và rủi ro an toàn hệ thống. Dù chi tiết kỹ thuật và bằng chứng cụ thể có thể khác nhau, các cáo buộc đều xoay quanh distillation như một kênh rút trích năng lực mô hình nhanh chóng.
Anthropic cảnh báo rủi ro an ninh quốc gia nếu mô hình Mỹ bị distill bởi phòng lab nước ngoài
Anthropic nói việc phòng lab nước ngoài distill mô hình Mỹ có thể dẫn tới rủi ro an ninh quốc gia, khi năng lực đó được tích hợp vào hệ thống quân sự, tình báo hoặc giám sát.
Công ty cho rằng khả năng mô hình có thể bị chuyển hóa thành năng lực triển khai trong các bối cảnh nhạy cảm khiến vấn đề vượt ra ngoài tranh chấp thương mại. Theo lập luận của Anthropic, nếu một mô hình nền tảng mạnh bị trích xuất hành vi ở quy mô đủ lớn, bên thứ ba có thể tái tạo năng lực gần tương đương mà không cần toàn bộ dữ liệu huấn luyện ban đầu.
Ở góc độ quản trị rủi ro, cáo buộc này củng cố xu hướng siết kiểm soát truy cập, phát hiện hành vi bất thường và tăng bảo vệ hạ tầng API. Nó cũng đặt ra câu hỏi về cách cân bằng giữa mở rộng tiếp cận AI và phòng chống lạm dụng, đặc biệt khi dữ liệu tổng hợp và hệ thống tác nhân khiến vòng lặp “tạo dữ liệu–huấn luyện–triển khai” ngày càng nhanh.
Công cụ bảo mật mới của Claude làm cổ phiếu an ninh mạng giảm mạnh
Anthropic ra mắt công cụ bảo mật mới cho Claude để quét mã nguồn tìm lỗ hổng và gợi ý sửa, sau đó thị trường phản ứng tiêu cực khi nhà đầu tư lo AI thay thế một phần dịch vụ an ninh mạng truyền thống.
Anthropic giới thiệu công cụ bảo mật trong bản xem trước nghiên cứu giới hạn vào thứ Sáu, kèm trang truy cập tại công cụ bảo mật của Claude. Công cụ này tập trung vào rà soát mã phần mềm, nhận diện điểm yếu và đề xuất bản vá. Anthropic cho biết sẽ tổ chức một buổi briefing cho khách hàng doanh nghiệp vào thứ Ba với thêm các thông báo sản phẩm.
Trong phiên thứ Hai, nhóm cổ phiếu an ninh mạng giảm ngày thứ hai liên tiếp. CrowdStrike giảm khoảng 9%, Zscaler giảm khoảng 9%, Netskope giảm gần 10%, SailPoint giảm 6%. Okta, SentinelOne và Fortinet đều giảm hơn 4%, trong khi Palo Alto Networks giảm 2%.
Cloudflare giảm 7% sau nhịp tăng gần đây gắn với mối quan tâm về Moltbot. iShares Cybersecurity and Tech ETF giảm gần 4%. Global X Cybersecurity ETF chạm mức thấp nhất kể từ tháng 11/2023.
Áp lực không chỉ nằm ở an ninh mạng. Các công cụ AI có khả năng tạo ứng dụng và website từ prompt đơn giản đã làm rung chuyển nhóm phần mềm trong năm nay. Salesforce đã mất khoảng 1/3 giá trị, ServiceNow giảm hơn 34%, và Microsoft giảm khoảng 20%.
Bank of America nhận định công cụ của Anthropic chủ yếu gây sức ép lên các nền tảng quét mã như GitLab và JFrog. GitLab giảm 8% vào thứ Sáu, còn JFrog giảm 25% cùng ngày.
Những câu hỏi thường gặp
Anthropic cáo buộc những công ty nào và họ đã làm gì với Claude?
Anthropic nêu tên DeepSeek, Moonshot AI và MiniMax, cáo buộc họ tạo hơn 24.000 tài khoản giả và gửi hơn 16 triệu prompt vào Claude để thu thập phản hồi, mẫu hành vi và khuôn dạng trả lời nhằm phục vụ huấn luyện mô hình.
Distillation trong AI là gì và vì sao gây tranh cãi?
Distillation là kỹ thuật dùng đầu ra của một mô hình để huấn luyện mô hình khác. Nó có thể hợp lệ để tạo phiên bản nhỏ hơn từ mô hình nội bộ, nhưng gây tranh cãi khi bị dùng để bắt chước mô hình đối thủ thông qua lượng prompt lớn.
Anthropic ra mắt công cụ bảo mật nào và nó làm được gì?
Anthropic ra mắt một công cụ bảo mật cho Claude trong bản preview nghiên cứu giới hạn, có chức năng quét mã để tìm lỗ hổng và đề xuất cách khắc phục. Thị trường lo ngại công cụ AI này có thể thay thế một phần dịch vụ bảo mật hiện hữu.
Thị trường phản ứng ra sao với thông tin công cụ bảo mật của Anthropic?
Nhiều cổ phiếu an ninh mạng giảm mạnh, như CrowdStrike và Zscaler giảm khoảng 9%, Netskope gần 10%. Các ETF an ninh mạng cũng giảm, trong đó Global X Cybersecurity ETF xuống mức thấp nhất kể từ tháng 11/2023.
