Vụ ném bom khiến hơn 175 người thiệt mạng tại một trường học ở Minab (miền nam Iran) làm dấy lên nghi vấn liệu hệ thống AI hỗ trợ nhắm mục tiêu của quân đội Mỹ có thể đã nhận diện sai mục tiêu hay không.
Trong bối cảnh nhịp độ tấn công dày đặc và việc tích hợp mô hình ngôn ngữ lớn vào hệ thống Maven, câu hỏi về độ tin cậy, tính minh bạch và trách nhiệm chỉ huy khi AI tham gia chuỗi quyết định tác chiến đang trở nên cấp bách.
- Hệ thống Maven có thể đã tham gia quy trình nhắm mục tiêu trong một chiến dịch tấn công với tốc độ rất cao.
- Nghi vấn dữ liệu lỗi thời và hạn chế của AI thị giác khi các cấu trúc nằm sát nhau có thể dẫn tới nhận diện sai.
- Trách nhiệm pháp lý và đạo đức vẫn thuộc về người chỉ huy ra lệnh, trong khi “hộp đen” của AI chưa được giải quyết.
Nghi vấn AI nhắm nhầm mục tiêu sau vụ ném bom trường học ở Minab
Chưa có bên nào nhận trách nhiệm và cũng chưa có kết luận công khai về vai trò của AI, nhưng vụ tấn công tại Minab làm nổi bật rủi ro AI có thể góp phần vào sai lệch nhắm mục tiêu.
Vụ nổ xảy ra vào ngày đầu tiên của các đợt không kích của Mỹ và Israel nhằm vào Iran, gây hơn 175 người thiệt mạng, trong đó có học sinh. Các thông tin công khai không nêu rõ cơ chế chọn mục tiêu dẫn tới việc tên lửa đánh trúng tòa nhà trường học.
Quân đội Mỹ cho biết vẫn đang điều tra vụ tấn công tại Minab và chưa xác nhận hệ thống AI có tham gia hay ở mức độ nào trong quyết định phóng tên lửa vào tòa nhà đó.
Tốc độ tấn công cao làm tăng áp lực lên quy trình nhắm mục tiêu
Nhịp độ đánh khoảng 1.000 điểm trong 24 giờ đầu đồng nghĩa quy trình lựa chọn mục tiêu bị nén thời gian, làm tăng nguy cơ sai sót nếu dữ liệu hoặc mô hình có vấn đề.
Trong 24 giờ đầu, lực lượng Mỹ tấn công khoảng 1.000 địa điểm, tương đương khoảng 42 địa điểm mỗi giờ. Trong môi trường ra quyết định nhanh, mọi khâu như hợp nhất dữ liệu, kiểm chứng ảnh vệ tinh, và rà soát nhầm lẫn mục tiêu đều khó đảm bảo tuyệt đối nếu không có cơ chế kiểm soát chặt.
Một báo cáo của CSET về Quân đoàn Không vận 18 cho biết với Maven Smart System, 20 người có thể làm khối lượng công việc từng cần đội 2.000 người tại trung tâm Combined Air Operations Center ở Iraq. Lợi ích về năng suất này đi cùng rủi ro nếu người vận hành “quá tin” vào gợi ý của máy.
Mô hình ngôn ngữ lớn đã được tích hợp vào Maven từ cuối năm 2024
Việc đưa LLM vào hệ thống Maven đánh dấu một trong những lần đầu công nghệ kiểu chatbot được dùng trong chuỗi nhắm mục tiêu, kéo theo câu hỏi về kiểm chứng và khả năng giải thích.
Đến cuối năm 2024, Mỹ đã tích hợp một mô hình ngôn ngữ lớn vào Maven, tức cùng loại phần mềm đứng sau các công cụ AI hội thoại phổ biến. Điều này khiến chiến trường trở thành bối cảnh sớm áp dụng LLM cho tác vụ liên quan nhắm mục tiêu, nơi sai số có thể gây hậu quả nghiêm trọng.
Dù LLM có thể hỗ trợ tổng hợp, truy vấn và liên kết dữ liệu nhanh, điểm yếu thường nằm ở suy luận dựa trên dữ liệu không đầy đủ, thiếu ngữ cảnh cập nhật, hoặc đầu vào nhiễu. Khi đầu ra được trình bày “trôi chảy”, người ra quyết định có thể bị thuyết phục ngay cả khi căn cứ chưa vững.
Nghi vấn dữ liệu lỗi thời và kiểm chứng ảnh vệ tinh có thể là mắt xích then chốt
Một hướng nghi vấn là quy trình nhắm mục tiêu có thể dựa trên dữ liệu cũ, trong khi ảnh vệ tinh mới có thể cho thấy khu vực là trường học.
Theo thông tin được nêu, hệ thống có thể đã vận hành dựa trên dữ liệu cũ. Phóng viên đối ngoại Louisa Loveluck viết trên X rằng đòn đánh có thể “dựa trên tin tình báo đã cũ cả một thập kỷ”, và nếu kiểm tra ảnh vệ tinh gần đây có sẵn trực tuyến, người ta sẽ thấy “một ngôi trường với sân thể thao” tại một trong các điểm bị đánh dấu tấn công.
Nếu giả thuyết này đúng, vấn đề không chỉ nằm ở AI, mà còn ở quy trình quản trị dữ liệu: chuẩn hóa nguồn vào, quy tắc hết hạn của tin tình báo, và yêu cầu đối chiếu đa nguồn trước khi hành động.
AI thị giác dễ nhầm mục tiêu khi các cấu trúc nằm sát nhau
Nghiên cứu về mô hình thị giác-ngôn ngữ cho thấy hệ thống có thể gặp lỗi khi phải phân biệt hai cấu trúc gần nhau, trùng với bối cảnh trường học nằm cạnh cơ sở quân sự ở Minab.
Nhà khoa học máy tính Anh Totti Nguyen nghiên cứu các tình huống AI thị giác mắc lỗi. Trong bài báo “Vision language models are blind: Failing to translate detailed visual features into words”, ông chỉ ra các hệ thống này thường thất bại khi hai công trình nằm gần nhau và phần mềm phải xác định “cái nào là cái nào”. Xem bài báo tại liên kết arXiv.
Ảnh vệ tinh được nhắc đến cho thấy trường tiểu học Shajarah Tayyebeh nằm ngay cạnh một khu nhà của IRGC ở Minab, đúng kiểu bố cục mà nghiên cứu của Nguyen cảnh báo dễ gây nhầm lẫn trong nhận diện mục tiêu nếu quy trình đối chiếu không đủ chặt.
Trách nhiệm khi AI sai vẫn thuộc về chỉ huy ra lệnh
Theo quan điểm chuyên gia, dù AI tham gia gợi ý hoặc phân tích, trách nhiệm cuối cùng thuộc về người chỉ huy ban hành mệnh lệnh tác chiến.
Emilia Probasco, cựu sĩ quan Hải quân và senior fellow tại Center for Security and Emerging Technology, nói trên podcast The Four Cast rằng trách nhiệm thuộc về chỉ huy đã ra lệnh. Bà cũng nhấn mạnh vấn đề “hộp đen”, không nhìn thấy AI đi đến kết luận bằng cách nào, vẫn là “một lĩnh vực nghiên cứu đang tiếp diễn, chưa được giải quyết”.
Probasco nêu thêm các tranh luận trước chiến tranh liên quan độ tin cậy của AI trong quyết định sinh tử và nguy cơ biến việc liên kết dữ liệu rời rạc thành công cụ giám sát diện rộng. Điều này cho thấy xung đột không chỉ là kỹ thuật, mà còn là ranh giới pháp lý và đạo đức khi doanh nghiệp tư nhân cung cấp công nghệ cho quân đội.
Vấn đề “hộp đen”, không thể thấy cách một hệ thống AI đi đến câu trả lời, “là một lĩnh vực nghiên cứu đang tiếp diễn, không phải thứ đã được giải quyết”.
– Emilia Probasco, senior fellow, Center for Security and Emerging Technology (phát biểu trên podcast The Four Cast)
Rủi ro “tự động khai hỏa” không phải bức tranh hiện tại, nhưng minh bạch là việc cấp bách
Mối nguy lớn nhất không chỉ là viễn cảnh vũ khí tự chọn mục tiêu và nổ súng, mà là con người dựa vào AI mà không hiểu rõ giới hạn và độ chắc chắn của đầu ra.
Holland Michel cho rằng thảo luận часто trôi về kịch bản tệ nhất: máy tự chọn mục tiêu và khai hỏa không có con người. Ông nói rủi ro đó có thật, nhưng không phải điều đang diễn ra lúc này. Theo ông, công việc “khó hơn và cấp bách hơn” là làm AI minh bạch hơn và đảm bảo con người sử dụng đầu ra của AI đưa ra quyết định có hiểu biết, thay vì thuận theo đề xuất của máy.
“Công việc khó hơn, cấp bách hơn là làm các hệ thống AI minh bạch hơn và đảm bảo rằng con người dựa vào đầu ra của chúng đang đưa ra quyết định thật sự có hiểu biết, chứ không chỉ đơn giản là làm theo điều máy gợi ý.”
– Holland Michel
Nội dung chiến tranh do AI tạo lan truyền nhanh, gây nhiễu thông tin quy mô lớn
Video AI và ảnh vệ tinh bị chỉnh sửa về xung đột đã thu hút hàng trăm triệu lượt xem, làm tăng rủi ro hiểu sai bối cảnh và tạo áp lực lên các nền tảng mạng xã hội.
BBC Verify theo dõi các video do AI tạo và ảnh vệ tinh bị chỉnh sửa liên quan đến xung đột, thu hút hàng trăm triệu lượt xem. Nhà nghiên cứu truyền thông số Timothy Graham (Queensland University of Technology) nhận định масштаб “thực sự đáng báo động”, và những gì từng cần ê-kíp sản xuất chuyên nghiệp giờ có thể làm trong vài phút bằng công cụ AI.
X cho biết họ sẽ loại nhà sáng tạo khỏi chương trình trả tiền nếu đăng cảnh chiến tranh do AI tạo mà không dán nhãn. Mahsa Alimardani (Oxford Internet Institute) gọi đây là tín hiệu đáng chú ý cho thấy nền tảng đã nhận ra vấn đề lớn. Meta và TikTok được nói là không phản hồi khi được hỏi có áp dụng tương tự hay không.
Những câu hỏi thường gặp
Hệ thống Maven là gì và có vai trò gì trong nhắm mục tiêu?
Maven (Maven Smart System) là hệ thống hỗ trợ phân tích và hợp nhất dữ liệu để tăng tốc quy trình tác chiến. Báo cáo được nhắc đến cho rằng Maven giúp giảm mạnh nhân lực cần thiết cho một số nhiệm vụ tại trung tâm điều hành không quân, qua đó đẩy nhanh nhịp độ xử lý mục tiêu.
Vì sao vụ Minab làm dấy lên nghi vấn AI đánh nhầm mục tiêu?
Vì trường học bị đánh trúng trong khi chưa có bên nào giải thích rõ cơ chế nhắm mục tiêu, đồng thời xuất hiện nghi vấn hệ thống dựa trên dữ liệu cũ và bối cảnh địa hình “công trình nằm sát nhau” vốn là điểm yếu đã được nghiên cứu của AI thị giác cảnh báo.
Ai chịu trách nhiệm nếu AI góp phần vào một quyết định sai?
Theo phát biểu của Emilia Probasco, trách nhiệm thuộc về chỉ huy ra lệnh. AI có thể hỗ trợ phân tích hoặc gợi ý, nhưng chuỗi trách nhiệm trong quân đội vẫn quy về con người đưa ra quyết định cuối cùng.
“Hộp đen” của AI trong tác chiến nghĩa là gì?
Đó là việc khó quan sát hoặc giải thích rõ AI đã đi đến kết luận bằng cách nào. Probasco cho rằng đây là vấn đề nghiên cứu đang tiếp diễn, chưa phải bài toán đã được giải quyết, khiến việc kiểm toán và quy trách nhiệm trở nên phức tạp hơn.
Tại sao nội dung chiến tranh do AI tạo lại nguy hiểm?
Vì video AI và ảnh bị chỉnh sửa có thể tạo thông tin sai lệch ở quy mô rất lớn, lan truyền nhanh và thuyết phục, làm nhiễu nhận thức công chúng. BBC Verify ghi nhận các nội dung dạng này đạt hàng trăm triệu lượt xem, khiến nhu cầu dán nhãn và kiểm soát nền tảng trở nên quan trọng.
