Ngân hàng Dự trữ Ấn Độ (RBI) đã công bố dự thảo hướng dẫn yêu cầu các tổ chức tài chính được quản lý phải xây dựng khuôn khổ quản trị rủi ro cho mô hình trí tuệ nhân tạo và máy học.
Dự thảo này bao gồm cơ chế “kill switch” để tắt ngay hệ thống AI tạo ra đầu ra gây hại, cùng nhiều yêu cầu về giám sát con người, phân loại rủi ro và trách nhiệm cấp hội đồng quản trị.
- RBI muốn áp dụng khung quản trị rủi ro AI cho toàn bộ mô hình dùng trong hoạt động ngân hàng, từ bảng tính đơn giản đến AI tạo sinh.
- Mỗi mô hình phải được đánh giá, phân loại rủi ro và có cơ chế tắt, tạm ngưng hoặc vô hiệu hóa khi vượt ngưỡng an toàn.
- Ngân hàng vẫn chịu trách nhiệm hoàn toàn với mô hình AI, kể cả khi mua từ bên thứ ba.
Phạm vi áp dụng của dự thảo RBI
Dự thảo của RBI áp dụng cho mọi mô hình được dùng trong hoạt động ngân hàng, từ công cụ tính toán đơn giản đến các hệ thống AI tạo sinh phức tạp. Các quy định đang mở để lấy ý kiến công chúng đến ngày 24/7.
Ngân hàng phải lập danh mục toàn bộ mô hình đang vận hành, đánh giá rủi ro ở cả cấp độ từng mô hình lẫn cấp độ toàn hệ thống, rồi cập nhật biện pháp khắc phục khi rủi ro vượt ngưỡng cho phép.
Cơ chế ngắt khẩn cấp và giám sát con người
Mỗi mô hình AI phải có khả năng bị ghi đè, tạm dừng hoặc vô hiệu hóa ngay lập tức nếu tạo ra kết quả sai lệch hay gây hại. RBI cũng yêu cầu luôn có giám sát của con người đối với từng mô hình, bất kể độ phức tạp.
RBI lưu ý đến rủi ro “automation bias”, tức nhân viên ngân hàng có thể chấp nhận đầu ra của AI mà không tự đánh giá độc lập. Với các hệ thống AI tiếp xúc khách hàng, ngân hàng phải thông báo rõ họ đang tương tác với AI và cho phép chuyển sang trao đổi với người thật bất cứ lúc nào.
Trách nhiệm của ngân hàng với mô hình từ bên thứ ba
Ngân hàng vẫn phải chịu trách nhiệm đầy đủ với mọi mô hình AI được sử dụng, kể cả mô hình mua từ nhà cung cấp bên ngoài. RBI cũng bày tỏ lo ngại về rủi ro phụ thuộc quá mức vào một số ít nhà cung cấp AI toàn cầu.
Tất cả mô hình AI bên thứ ba phải được thẩm định độc lập. Ngân hàng cũng phải xác định ngưỡng rủi ro cho các mô hình AI và máy học, đồng thời có thể giải thích bằng ngôn ngữ rõ ràng vì sao một mô hình đưa ra đầu ra cụ thể.
Ý nghĩa với quản trị công nghệ trong ngành tài chính Ấn Độ
Dự thảo này là lần đầu RBI đề xuất một khung trách nhiệm ở cấp hội đồng quản trị cho rủi ro mô hình AI trên toàn bộ lĩnh vực tài chính. Nó cho thấy cơ quan quản lý đang siết chặt cách các ngân hàng triển khai AI trong vận hành và phục vụ khách hàng.
Nếu được thông qua, các ngân hàng sẽ phải đầu tư nhiều hơn cho kiểm soát nội bộ, kiểm tra độc lập và tài liệu giải trình mô hình trước khi mở rộng ứng dụng AI.
Tổng kết
Dự thảo của RBI đặt trọng tâm vào khả năng kiểm soát, giải trình và tắt khẩn cấp đối với AI trong ngân hàng, đồng thời giữ ngân hàng chịu trách nhiệm cuối cùng dù mô hình do nội bộ hay bên thứ ba cung cấp.
