Google cho biết đã phát hiện một vụ khai thác zero-day đầu tiên mà công ty tin là có sự hỗ trợ từ mô hình AI.
Vụ việc liên quan đến một script Python nhằm vượt qua xác thực hai lớp trên một công cụ quản trị web mã nguồn mở. Google đã phối hợp với nhà cung cấp để chặn nguy cơ khai thác hàng loạt trước khi nó lan rộng.
- Google cho rằng một cuộc khai thác zero-day đã được xây dựng với sự hỗ trợ của AI.
- Phân tích mã cho thấy nhiều dấu vết giống đầu ra từ mô hình ngôn ngữ lớn.
- Google cũng nêu các cách tội phạm mạng đang dùng AI để tìm lỗ hổng, viết mã độc và né phát hiện.
Google phát hiện dấu vết AI trong một script khai thác zero-day
Google nói vụ khai thác này được viết bằng Python để bypass 2FA trên một công cụ quản trị web mã nguồn mở. Điểm đáng chú ý là công ty cho rằng đây là trường hợp đầu tiên họ thấy một zero-day được xây dựng với sự hỗ trợ của AI.
Google không quy trách nhiệm cho mô hình Gemini của chính hãng. Thay vào đó, các nhà phân tích dựa vào cấu trúc mã và kiểu trình bày để suy ra khả năng có AI tham gia.
Script có các docstring mang tính hướng dẫn khá chi tiết, một điểm số CVSS bị “ảo hóa”, cùng kiểu định dạng thường thấy ở đầu ra của mô hình ngôn ngữ lớn. Google cũng cho biết mã có cấu trúc menu trợ giúp và cách đặt tên lớp màu rất giống phong cách “textbook”.
“Dựa trên cấu trúc và nội dung của các khai thác này, chúng tôi có độ tin cậy cao rằng tác nhân có thể đã tận dụng một mô hình AI để hỗ trợ việc phát hiện và vũ khí hóa lỗ hổng này.”
Nhóm tấn công nhà nước đang dùng AI để săn lỗ hổng
Không chỉ dừng ở một vụ zero-day, Google cho biết các nhóm hacker liên quan đến Trung Quốc và Triều Tiên đang thể hiện sự quan tâm rõ rệt đến việc dùng AI cho nghiên cứu lỗ hổng.
Trong một trường hợp, nhóm UNC2814 dùng cách Google gọi là “persona-driven jailbreaking”, tức yêu cầu mô hình AI đóng vai một chuyên gia an ninh cấp cao rồi hướng dẫn nó phân tích firmware của thiết bị TP-Link và các triển khai Odette File Transfer Protocol để tìm lỗi thực thi mã từ xa.
Google cũng nói một nhóm khác có liên hệ với Trung Quốc đã dùng các công cụ Strix và Hexstrike để tấn công một công ty công nghệ Nhật Bản và một công ty an ninh mạng lớn ở Đông Á.
Ở phía Triều Tiên, nhóm APT45 được cho là đã gửi hàng nghìn truy vấn lặp đi lặp lại để phân tích các mục CVE đã biết và kiểm tra các bản khai thác proof-of-concept. Google đánh giá cách làm này tạo ra một bộ công cụ khai thác “mạnh hơn nhiều so với việc quản lý thủ công”.
AI đang bị lạm dụng để viết mã độc và né phát hiện
Google nói mối đe dọa từ AI không chỉ nằm ở việc tìm lỗi phần mềm. Một số nhóm bị nghi liên quan đến Nga đã dùng AI để viết mã độc đa hình và xây dựng mạng che giấu nhằm tăng tốc phát triển, đồng thời tránh bị phát hiện.
Công ty cũng cảnh báo về một loại mã độc có tên PROMPTSPY, mà Google mô tả là bước chuyển sang hình thức tấn công tự động hơn. Mã độc này dùng mô hình AI để đọc trạng thái hệ thống và tự sinh lệnh nhằm thao túng môi trường của nạn nhân.
Google cho biết các tác nhân đe dọa hiện cũng mua quyền truy cập gói cao cấp vào mô hình ngôn ngữ bằng cơ chế trung gian ẩn danh và hệ thống đăng ký tài khoản tự động. Cách làm này giúp họ vượt qua giới hạn sử dụng trên diện rộng.
Google đang dùng AI như một lớp phòng thủ
Song song với các cảnh báo, Google cho biết hãng cũng triển khai AI theo hướng phòng thủ. Công ty nhắc đến Big Sleep, một tác nhân AI có nhiệm vụ phát hiện lỗ hổng phần mềm, và CodeMender, hệ thống dùng khả năng suy luận của Gemini để tự động vá lỗi.
Google cũng cho biết các tài khoản bị phát hiện lạm dụng Gemini cho mục đích độc hại sẽ bị vô hiệu hóa. Đây là phần cho thấy cuộc đua AI trong an ninh mạng đang diễn ra theo cả hai chiều: tấn công và phòng thủ.
Những câu hỏi thường gặp
Google đã phát hiện điều gì?
Google cho biết họ đã bắt gặp một vụ khai thác zero-day mà công ty tin là có sự hỗ trợ từ AI.
Tại sao Google nghi ngờ có AI tham gia?
Vì mã khai thác có các dấu vết như docstring quá chi tiết, điểm CVSS bị bịa và kiểu định dạng giống đầu ra của mô hình ngôn ngữ lớn.
Google có nói Gemini bị dùng cho vụ việc này không?
Không. Google nói họ không đổ lỗi cho Gemini của chính hãng.
Google còn cảnh báo thêm điều gì?
Công ty cho biết nhiều nhóm tấn công đang dùng AI để tìm lỗ hổng, viết mã độc, né phát hiện và tự động hóa một phần hoạt động tấn công.
Tổng kết
Thông điệp chính từ Google là AI đang được sử dụng ngày càng rộng trong cả khai thác lỗ hổng lẫn phòng thủ an ninh mạng. Vụ zero-day mà công ty phát hiện cho thấy ranh giới giữa công cụ hỗ trợ và vũ khí hóa bằng AI đang trở nên mờ hơn.
