Ngân hàng Trung ương Anh cảnh báo AI tự trị đang làm tăng rủi ro cho thị trường tài chính, an ninh mạng và hạ tầng thanh toán, đồng thời kêu gọi các ngân hàng trung ương xem xét quy định chặt hơn.
Cảnh báo này xuất hiện khi các hệ thống AI có khả năng tự hành động đang tiến nhanh hơn dự đoán trước đây. Mối lo lớn nhất hiện nay không chỉ là sai sót kỹ thuật, mà còn là khả năng AI bị khai thác để gây gián đoạn tài chính hoặc tạo biến động thị trường.
- Sarah Breeden cho rằng AI tự trị đang phát triển nhanh hơn tốc độ mà nhà quản lý dự liệu.
- Rủi ro an ninh mạng được Ngân hàng Trung ương Anh xem là đáng lo nhất.
- Áp lực tài chính từ đầu tư vào AI có thể khuếch đại cú sốc nếu giá tài sản liên quan giảm mạnh.
AI tự trị đang vượt tốc độ giám sát truyền thống
AI tự trị là các hệ thống có thể lập kế hoạch và thực hiện chuỗi hành động mà không cần con người giám sát liên tục. Sarah Breeden cho biết tốc độ phát triển của các mô hình này đã tăng nhanh hơn nhiều so với dự báo trước đó.
Theo bà, năm 2019 độ dài nhiệm vụ phần mềm mà các mô hình AI hàng đầu có thể hoàn thành được nhân đôi sau mỗi bảy tháng. Đến năm 2024, tốc độ đó đã rút xuống còn bốn tháng.
Breeden nói tại Diễn đàn thường niên của Ngân hàng Trung ương châu Âu ở Sintra, Bồ Đào Nha, rằng ngân hàng trung ương cần chuẩn bị cho những bước tiến công nghệ tiếp theo. Bà cũng lưu ý các đột phá trong phát hiện lỗ hổng an ninh mạng vào mùa xuân năm nay cho thấy tốc độ này có thể còn tăng nữa.
Nguy cơ lớn nhất nằm ở an ninh mạng
An ninh mạng là rủi ro mà Sarah Breeden xem là nghiêm trọng nhất đối với ổn định tài chính. Lý do là cùng một công cụ có thể giúp phòng thủ phát hiện và vá lỗ hổng cũng có thể hỗ trợ kẻ tấn công tìm ra và khai thác chúng.
Breeden cho rằng việc lạm dụng các năng lực này có thể làm tăng đáng kể khả năng xảy ra các cuộc tấn công gây hại cho ổn định tài chính. Bà trích dẫn đánh giá của AI Security Institute thuộc chính phủ Anh về mức cải thiện lớn của agentic AI khi hoạt động trên internet.
Bà cũng nhắc đến khả năng các công cụ giao dịch tự trị cần có cơ chế “kill switch” để ngăn cú sốc thị trường. Đây là một thay đổi so với cách thiết lập quy định hiện nay.
Áp lực từ vốn vay trong hạ tầng AI
Ngân hàng Trung ương Anh còn lo ngại về cách tài trợ cho hạ tầng AI. Ủy ban Chính sách Tài chính của ngân hàng này kết luận hồi tháng 4 rằng các tập đoàn công nghệ lớn ban đầu chủ yếu dùng dòng tiền và vốn cổ phần để xây dựng, vận hành hạ tầng AI, nhưng việc dùng nợ đang tăng nhanh và trở nên phức tạp hơn.
Điều đó có nghĩa là nếu giá trị tài sản liên quan đến AI giảm mạnh, tác động có thể lan sang thị trường tín dụng. Breeden cho biết ủy ban đánh giá hậu quả đối với ổn định tài chính từ một đợt giảm giá tài sản liên quan đến AI “có thể sẽ tăng lên”.
Ủy ban dự kiến sẽ công bố đánh giá chi tiết hơn về chủ đề này vào ngày 7/7.
Ngân hàng trung ương cũng phải dùng AI để giám sát AI
Breeden cho rằng các ngân hàng trung ương không chỉ cần quản lý rủi ro do AI tạo ra mà còn phải áp dụng chính AI trong hoạt động giám sát. Cách tiếp cận này được xem là cần thiết nếu hệ thống tài chính ngày càng vận hành tự động hơn, với AI đại diện cho người tiêu dùng, thương nhân và nền tảng giao dịch.
Breeden mô tả một hệ thống tài chính có thể “vận hành tự động hơn, ở quy mô lớn và tốc độ cao”. Trong bối cảnh đó, giám sát truyền thống có thể không đủ nhanh để theo kịp các thay đổi về hành vi và rủi ro vận hành.
Tổng kết
Cảnh báo của Ngân hàng Trung ương Anh cho thấy AI tự trị đang trở thành một vấn đề ổn định tài chính, không chỉ là câu chuyện công nghệ. Ba điểm cần theo dõi là rủi ro an ninh mạng, cơ chế kiểm soát giao dịch tự động và tác động của đòn bẩy tài chính trong lĩnh vực AI.
