CNN 獨家報導，今年春天美伊戰爭期間，美軍一度準備武裝登船攔截一艘中國船隻，起因是一份藉助 AI 生成的情報，誤判該船運送核武計畫零組件，事後證實內容「完全錯誤」。
（前情提要：為什麼愈來愈多研究員害怕 AI 可能毀滅人類）
（背景補充：ChatGPT 捏造證詞：美國律師被判藐視法庭開罰，謀殺案上訴被迫重來）
一艘在中東航行的中國船隻，被美軍情報認定正運送核武計畫的零組件。武裝人員一度準備登船，軍機已經升空，攔截行動箭在弦上。直到行動前最後一刻，官員回頭深究這份情報，才發現它出自 AI 之手，而且結論是錯的。
CNN 獨家報導引述四名知情人士指出，這起誤判發生在今年春天美伊戰爭期間，一名消息人士形容，報告內容「完全錯誤」，卻「差點引發一場戰爭」。
半步之遙的戰爭
情報的源頭，來自位於夏威夷的美國太平洋特種作戰司令部。一名特種作戰司令部分析師拿著一份關於該船艙單的情報，向聊天機器人查詢；機器人把公開管道取得的開源情報，和政府內部持有的機密訊號情報兜在一起。兩種來源混合之後，機器人得出結論：這艘船正運送核武計畫的零組件。
問題是，這個結論並不成立。CNN 未能查明船上實際載運的物資是什麼，只確認聊天機器人認錯了貨物。這正是 AI 幻覺。
針對中國船隻的美軍行動可不是小事，說不定會升級為兩國之間的武裝衝突，這也是消息人士說它「差點引發一場戰爭」的原因。
CNN 目前未能確認這具聊天機器人是市售商用產品，還是美國政府自建的工具；不過一名熟悉軍情系統 AI 工具的前美國高階官員表示：「這些內部工具，大多只是把商用產品換個包裝。」
比天網更近的風險
過去幾週，華府政策圈忙著辯論 AI 會不會「掙脫人類控制」。矽谷工程師與科技執行長接連示警，描繪的是文明終結式的末日情境。但這艘船的故事點出另一種更迫在眉睫、也更平凡的風險：不是機器失控，而是人照著機器給的錯誤答案，做出足以致命的決定。
消息人士指出，軍方正快速把 AI 導入「目標鎖定」，也就是決定打擊對象的環節，這正是最容不下錯誤的地方。一名熟悉軍方現行政策的消息人士向 CNN 表示：
AI 用在目標鎖定上確實正在加速，但對於人在決策迴路中要怎麼防止平民傷亡或誤擊友軍，目前並沒有真正的指引。
另一名消息人士透露，自這類工具在政府內部普及以來，類似的幻覺在情報體系內並非單一個案。部分資深情報官員即使大致支持軍方使用 AI，也擔心它讓分析師承受更快產出、更快發布情報的壓力，給錯誤留下空間；多名消息人士特別點名年輕分析師，他們是這些工具的原生用戶，更容易不加懷疑就採信結果。
用其中一名消息人士的話說：「AI 能讓你更快得到一個糟糕的主意。」
這起事件當時沒有對外曝光，美軍最終也沒有動手，但它留下的訊息很清楚：讓 AI 加速決策，和讓 AI 加速犯錯，往往是同一套流程。
📍相關報導📍
葉門武裝團夥靠 Claude 寫飛彈導引程式，Anthropic 揭露多起越獄事件
