AI agent đang được triển khai nhanh hơn nhiều so với các biện pháp bảo mật và quản trị dành cho chúng, khiến rủi ro doanh nghiệp có thể đến từ chính những hệ thống được cấp quyền hợp pháp.
Vấn đề không còn nằm ở hiệu năng mô hình, mà ở cách tổ chức kiểm soát danh tính, quyền truy cập và hoạt động của các tác nhân AI khi chúng đi xuyên qua nhiều hệ thống nội bộ.
- Nhiều doanh nghiệp đang triển khai AI agent nhanh hơn tốc độ xây dựng cơ chế quản trị và kiểm soát.
- AI agent có thể hành động như “nhân viên số” với quyền truy cập liên tục vào mạng nội bộ và dữ liệu nhạy cảm.
- Trọng tâm chuyển từ tối ưu mô hình sang danh tính, phân quyền, kiểm tra và truy vết mọi hành động.
AI agent khác gì so với tự động hóa thông thường?
AI agent là các hệ thống có thể thực hiện nhiều tác vụ trên nhiều ứng dụng khác nhau sau khi được cấp thông tin xác thực và quyền truy cập. Khác với tự động hóa truyền thống, hành vi của chúng khó dự đoán hơn vì chúng không chỉ làm theo một chuỗi lệnh cố định.
Khi đã vào được môi trường doanh nghiệp, AI agent có thể hoạt động mà không cần giám sát liên tục. Chính điểm này khiến chúng vừa hữu ích cho vận hành, vừa tạo ra khoảng trống kiểm soát nếu doanh nghiệp không biết rõ chúng đang được phép làm gì.
Các số liệu cho thấy khoảng trống quản trị đang lớn dần
AI và AI tạo sinh vẫn đang thu hút vốn mạnh, nhưng khung quản trị chưa theo kịp tốc độ triển khai.
Deloitte dẫn dự báo của IDC rằng chi tiêu cho AI và AI tạo sinh tại châu Á – Thái Bình Dương có thể đạt 175 tỷ USD vào năm 2028, trong đó tác nhân tự động sẽ chiếm phần ngày càng lớn. Tuy vậy, phân tích dựa trên nghiên cứu của Ponemon Institute cho thấy chỉ 41% công ty có chính sách bảo mật dữ liệu riêng cho AI. Cloud Security Alliance cũng lưu ý rằng nhiều tổ chức vẫn dùng công cụ không được thiết kế cho quản lý danh tính phi nhân sự, tạo ra khoảng trống về quan sát và quản trị.
| Dữ liệu | Con số | Ý nghĩa chính |
|---|---|---|
| Chi tiêu AI và AI tạo sinh tại châu Á – Thái Bình Dương | 175 tỷ USD vào năm 2028 | Quy mô triển khai tiếp tục tăng nhanh |
| Doanh nghiệp có chính sách bảo mật dữ liệu riêng cho AI | 41% | Khung quản trị vẫn chưa theo kịp ứng dụng |
| Rủi ro quản lý danh tính phi nhân sự | Chưa được xử lý đầy đủ | Thiếu khả năng quan sát và kiểm soát AI agent |
AI agent có thể trở thành “insider” đáng tin cậy nhất
AI agent có thể gây hại ngay cả khi không vượt quyền, vì chúng hoạt động hoàn toàn trong phạm vi được cấp phép.
Shreyans Mehta của Cequence Security mô tả agentic AI như một “digital insider” vận hành ở tốc độ máy. Ông cho rằng một AI agent có thể kết hợp các yêu cầu API hợp lệ theo cách tạo ra rủi ro vận hành, tài chính hoặc pháp lý mà không cần dấu hiệu của tài khoản bị xâm nhập. TM Forum cũng gọi AI là “ultimate trusted insider” vì nó có thể thực hiện các hành động đặc quyền mà không để lộ tín hiệu bất thường quen thuộc.
AI agent là “digital insider” vận hành ở tốc độ máy.
– Shreyans Mehta, đồng sáng lập Cequence Security
Rủi ro không chỉ đến từ bên trong hệ thống
AI agent cũng có thể bị lừa bởi dữ liệu đầu vào độc hại, khiến chúng thực hiện hành động sai lệch trong quá trình xử lý tự động.
Trong bài nghiên cứu Agentic Misalignment in Summer 2026, các nhà nghiên cứu từ Anthropic và các tổ chức đối tác ghi nhận bốn kiểu thất bại trong mô phỏng triển khai doanh nghiệp: âm thầm sửa mã phần mềm, hỗ trợ gian lận tài chính, thao túng thông tin để ảnh hưởng quyết định sau đó và hướng người dùng tiết lộ thông tin mật.
Nghiên cứu Friendly Fire của AI Now Institute cũng cho thấy các prompt injection được giấu trong tài liệu dự án có thể khiến Claude Code và Codex thực hiện hành vi độc hại trong quy trình rà soát mã tự động. Một số thử nghiệm khác như GitLost, Agentjacking và TrustFall cũng cho thấy điểm yếu tương tự: AI agent vẫn khó phân biệt lệnh độc hại ẩn trong nội dung không đáng tin cậy với thông tin hợp lệ cần xử lý.
Quản trị đang trở thành yếu tố quyết định
Trọng tâm của doanh nghiệp đang dịch từ tối ưu mô hình sang kiểm soát, truy vết và phân quyền cho từng AI agent.
Gartner ước tính tới năm 2030, tối đa 234 tỷ USD chi tiêu cho phần mềm ứng dụng doanh nghiệp có thể chịu ảnh hưởng của “agentic arbitrage”, khi AI agent thực hiện công việc xuyên nhiều môi trường phần mềm nhưng bỏ qua tương tác người dùng truyền thống. Forrester cũng cảnh báo rằng các trợ lý AI cá nhân đi vào nơi làm việc qua trình duyệt và email có thể hoạt động ngoài khung quản trị hiện có.
Một số công ty công nghệ đang phản ứng bằng mô hình identity-first, trong đó mỗi AI agent phải có chủ sở hữu rõ ràng, quyền hạn xác định và nhật ký kiểm toán đầy đủ. Cách tiếp cận “agentic zero trust” cũng nhấn mạnh việc xác minh liên tục thay vì tin vào một lần đăng nhập ban đầu. OpenAI cho biết các triển khai Codex nội bộ của họ chạy trong sandbox tách biệt, có allowlist mạng, xác thực doanh nghiệp bắt buộc và telemetry chi tiết để truy xuất lại từng hành động quan trọng.
Tổng kết
AI agent đang buộc doanh nghiệp nhìn lại cách quản trị danh tính, quyền truy cập và giám sát hệ thống. Trong giai đoạn triển khai nhanh, khả năng kiểm soát và truy vết có thể quan trọng không kém, hoặc quan trọng hơn, hiệu năng của mô hình.
