Bằng chứng mới cho thấy các nhóm được nhà nước hậu thuẫn đang dùng AI theo cách rất “cơ bản” như người dùng thường, và thậm chí còn gặp nhiều khó khăn, trái với lo ngại AI sẽ nhanh chóng trở thành vũ khí vượt trội cho các thế lực thù địch.
Các báo cáo từ OpenAI và Microsoft mô tả cách một số chiến dịch gây ảnh hưởng, lừa đảo và tác chiến mạng thử khai thác mô hình ngôn ngữ lớn, nhưng phần lớn chỉ dừng ở việc tra cứu thông tin công khai, dịch thuật, sửa lỗi code, hoặc lên kế hoạch không hiệu quả và dễ bị phát hiện.
- Chiến dịch gây ảnh hưởng liên quan Trung Quốc bị lộ vì một cán bộ dùng ChatGPT như nhật ký, dẫn đến việc tài khoản bị cấm.
- Chiến thuật quấy rối gồm giả mạo cơ quan nhập cư Mỹ, làm giấy tờ tòa án giả, tạo cáo phó và ảnh bia mộ để bôi nhọ người bất đồng chính kiến.
- Microsoft ghi nhận các tác nhân quốc gia chủ yếu dùng AI cho tác vụ đơn giản (OSINT, dịch, sửa code), chưa thấy đột phá tấn công mới nhờ AI.
Chiến dịch gây ảnh hưởng bị lộ vì dùng ChatGPT như công cụ ghi chép
Một chiến dịch gây ảnh hưởng liên quan Trung Quốc bị phanh phui khi một cán bộ thực thi pháp luật dùng ChatGPT như “nhật ký” để ghi lại hoạt động nhắm vào những người chỉ trích đang sống ở nước ngoài, giúp điều tra viên đối chiếu với dấu vết thực tế và chặn tài khoản.
OpenAI cho biết ca đáng chú ý nhất đến từ một chiến dịch gây ảnh hưởng bị lộ “tình cờ” khi người vận hành nhập nội dung về một chiến dịch nhắm vào các nhà phê bình Trung Quốc ở nước ngoài. Việc dùng ChatGPT như công cụ lưu trữ/ghi chép đã vô tình tạo ra mô tả chi tiết về mạng lưới và ý đồ thao túng.
OpenAI nêu chiến dịch có “hàng trăm” người vận hành và “hàng nghìn” tài khoản mạng xã hội giả, xem trong tài liệu của OpenAI tại báo cáo về việc ngăn chặn lạm dụng AI. Nội dung được phát tán trên mạng xã hội lại chủ yếu do các công cụ khác tạo ra, còn ChatGPT được dùng để theo dõi, ghi chú tiến độ và phác thảo ý tưởng.
Sau khi phát hiện dấu hiệu lạm dụng, OpenAI đã cấm người dùng. Nhóm điều tra cho biết họ còn đối chiếu các mô tả trong hội thoại với hoạt động trực tuyến có thật, từ đó củng cố việc xác định chiến dịch và phương thức vận hành.
Quấy rối “công nghiệp hóa” bằng giấy tờ giả và tin đồn bịa đặt
Chiến dịch này sử dụng nhiều thủ đoạn quấy rối, gồm giả mạo nhân viên nhập cư Mỹ để đe dọa, làm tài liệu tòa án giả để yêu cầu gỡ tài khoản mạng xã hội, và dựng cáo phó cùng ảnh bia mộ nhằm lan truyền tin đồn một người bất đồng chính kiến đã chết.
Theo mô tả, một kịch bản là mạo danh nhân viên nhập cư Hoa Kỳ nhằm hù dọa một người bất đồng chính kiến, nói sai sự thật rằng các phát ngôn công khai của họ vi phạm luật Mỹ. Ở kịch bản khác, nhóm vận hành dùng tài liệu giả mạo, tự nhận là văn bản từ tòa án cấp hạt, để thúc đẩy việc gỡ bỏ tài khoản mạng xã hội của các mục tiêu chỉ trích.
Nhóm này còn tạo một cáo phó giả và ảnh bia mộ để tung tin nạn nhân đã qua đời. Báo cáo cho biết tin đồn dạng này đã xuất hiện trực tuyến trong năm 2023 và được một bài viết tiếng Trung của Voice of America ghi nhận.
“Đó là kiểu quấy rối được công nghiệp hóa, nhắm vào những người chỉ trích Đảng Cộng sản Trung Quốc qua nhiều kênh.”
– Ben Nimmo, Trưởng bộ phận điều tra, OpenAI
Trong một diễn biến khác, người dùng cũng yêu cầu ChatGPT lập kế hoạch gây tổn hại danh tiếng của Thủ tướng Nhật Bản sắp nhậm chức Sanae Takaichi bằng cách khơi gợi phẫn nộ về thuế quan của Mỹ, nhưng hệ thống từ chối. Tuy nhiên, báo cáo ghi nhận đến cuối tháng 10 khi bà Takaichi nắm quyền, các hashtag công kích và phàn nàn về thuế quan đã xuất hiện trên một diễn đàn phổ biến với giới họa sĩ đồ họa Nhật Bản.
OpenAI ghi nhận thêm lừa đảo tình cảm và gian lận đầu tư từ Campuchia
Ngoài chiến dịch gây ảnh hưởng, OpenAI cho biết đã quan sát các hoạt động lừa đảo từ Campuchia tận dụng nền tảng cho kịch bản lừa đảo tình cảm và gian lận đầu tư, cùng một số chiến dịch gây ảnh hưởng khác có liên hệ Nga nhắm vào Argentina và châu Phi.
Báo cáo đề cập các nhóm lừa đảo dùng nền tảng để hỗ trợ giao tiếp, kịch bản tiếp cận và triển khai thủ thuật thuyết phục nạn nhân. Dù vậy, trọng tâm công bố là việc phát hiện, gỡ bỏ và hạn chế tài khoản có dấu hiệu lạm dụng, thay vì cho thấy AI tự động hóa hoàn toàn các “đường dây” theo cách vượt trội.
Với bối cảnh tiền điện tử, mô-típ “lừa đảo đầu tư” thường trùng với các biến thể dụ dỗ nạp tiền vào nền tảng giả mạo hoặc ví giả. Điểm quan trọng là AI có thể giúp soạn thảo lời thoại trôi chảy và dịch đa ngôn ngữ nhanh, nhưng vẫn cần hạ tầng lừa đảo, kênh phân phối và thao tác con người để vận hành.
Báo cáo Microsoft cho thấy tác nhân quốc gia chủ yếu dùng AI cho tác vụ đơn giản
Microsoft và OpenAI cho biết các tác nhân từ Nga, Triều Tiên, Iran và Trung Quốc đang “thử” mô hình ngôn ngữ lớn để hỗ trợ tác chiến mạng, nhưng chủ yếu dùng cho các việc cơ bản như OSINT, dịch thuật, sửa lỗi code; chưa ghi nhận cuộc tấn công lớn hoặc kỹ thuật mới dựa vào AI.
Trong báo cáo của Microsoft, các mẫu sử dụng nổi bật là tìm kiếm thông tin công khai, dịch nội dung, khắc phục lỗi lập trình, và chạy các tác vụ lập trình cơ bản. Microsoft nhấn mạnh chưa phát hiện các cuộc tấn công “lớn hoặc mới” được tạo ra nhờ các mô hình tại thời điểm báo cáo.
Báo cáo Microsoft có thể xem tại bài viết an ninh về việc theo kịp tác nhân đe dọa trong kỷ nguyên AI. Hai công ty cho biết đã ngăn chặn nỗ lực của 5 tác nhân liên kết nhà nước bằng cách đóng tài khoản liên quan.
Microsoft cũng nêu các nguyên tắc giảm rủi ro khi AI bị lạm dụng bởi nhóm tội phạm và tác nhân quốc gia, gồm phát hiện và chặn người dùng xấu, thông báo cho nhà cung cấp dịch vụ khác, phối hợp đa bên và tăng minh bạch. Cách tiếp cận này tập trung vào chia sẻ tín hiệu lạm dụng và phản ứng nhanh theo hệ sinh thái, không chỉ giới hạn trong một nền tảng.
Khoảng cách giữa nỗi sợ “AI vũ khí hóa” và thực tế triển khai vẫn lớn
Dữ liệu trong các báo cáo gợi ý khoảng cách đáng kể giữa lo ngại AI lập tức tạo đột phá tấn công và việc triển khai thực tế, khi nhiều nhóm vẫn loay hoay với tác vụ cơ bản và để lộ dấu vết; đồng thời cuộc cạnh tranh công nghệ Mỹ–Trung khiến chủ đề này bị thổi phồng trong tranh luận chính sách.
Microsoft mô tả khoảng cách này xuất hiện trong bối cảnh cạnh tranh gay gắt giữa Washington và Bắc Kinh về quyền kiểm soát công nghệ AI, cũng như vai trò của AI trong quân sự và kinh tế. Báo cáo còn nêu Lầu Năm Góc đã yêu cầu một công ty khác, Anthropic, có hạn đến thứ Sáu để gỡ một số tính năng an toàn khỏi mô hình, nếu không có nguy cơ mất hợp đồng quốc phòng.
Điểm thực dụng rút ra cho người dùng và doanh nghiệp, gồm cả các dự án tiền điện tử: AI hiện giúp “tăng tốc” quy trình (viết, dịch, hỗ trợ code, OSINT), nhưng không tự động thay thế năng lực vận hành, bí mật nghiệp vụ hay hạ tầng tấn công. Phòng thủ hiệu quả vẫn cần giám sát hành vi, kiểm soát truy cập, xác thực đa yếu tố, và truy vết chiến dịch theo tín hiệu đa nền tảng.
Những câu hỏi thường gặp
Vì sao một chiến dịch gây ảnh hưởng lại bị lộ chỉ vì dùng ChatGPT?
Vì người vận hành dùng ChatGPT như công cụ ghi chép, để lại mô tả về mạng lưới và kế hoạch. Điều tra viên đối chiếu các chi tiết này với hoạt động trực tuyến có thật, từ đó xác định hành vi lạm dụng và dẫn đến việc tài khoản bị cấm.
Các thủ đoạn quấy rối được nêu trong báo cáo gồm những gì?
Các ví dụ gồm mạo danh nhân viên nhập cư Mỹ để đe dọa, làm giấy tờ tòa án cấp hạt giả để yêu cầu gỡ tài khoản mạng xã hội, và dựng cáo phó cùng ảnh bia mộ nhằm lan truyền tin đồn một người bất đồng chính kiến đã chết.
Microsoft ghi nhận các tác nhân quốc gia dùng AI vào mục đích gì?
Microsoft cho biết họ chủ yếu dùng mô hình ngôn ngữ lớn cho tác vụ đơn giản như tìm kiếm thông tin công khai, dịch nội dung, sửa lỗi code và chạy tác vụ lập trình cơ bản. Báo cáo nói chưa thấy cuộc tấn công lớn hoặc kỹ thuật mới dựa vào các mô hình tại thời điểm công bố.
Có bằng chứng AI tạo ra các cuộc tấn công mạng “đột phá” không?
Trong các báo cáo được nêu, chưa có phát hiện về các cuộc tấn công lớn hoặc mới được tạo ra nhờ mô hình ngôn ngữ lớn. Thay vào đó, các nhóm bị quan sát đang thử nghiệm và tận dụng AI như công cụ hỗ trợ quy trình.
