https://www.ettoday.net/news/20260919/3240183.htm
「AI幻覺」湊出假情報!誤判中國運送核武 美戰機一度升空
ETtoday記者張方瑀
今年春天美軍與伊朗交戰期間,美軍內部流傳一份令人震驚的情報報告,指稱一艘位於中
東的中國船隻正在運送核武計畫的零組件。然而,外媒指出,這份差點引發美中大戰的報
告,竟是情報分析師使用人工智慧(AI)生成的錯誤資訊,美軍甚至一度出動軍機並準備
登船攔截,險些釀成嚴重的武裝衝突。
AI「幻覺」湊出假情報 美軍戰機一度升空
根據CNN報導,4名熟知內情的消息人士指出,美軍在接獲情報後隨即展開行動,計畫攔截
該艘中國船艦。其中2人透露,全副武裝的美軍人員當時已準備登船;另一名知情人士更
表示,當時連軍機都已經升空。
就在行動即將展開之際,官員對這份由特種作戰司令部分析師彙整的報告進行深入追查,
這才發現報告是靠著AI生成的。
該名分析師使用聊天機器人,查詢太平洋特種作戰司令部關於該船載貨清單的情報,結果
機器人將開源情報與政府機密的訊號情報東拼西湊,完全認錯了船上載運的物資。CNN目
前無法得知被誤認的貨物究竟為何。
接著,該名分析師又再次利用AI,將這些結果包裝成軍方高層深信不疑的標準情報報告並
發布出去。
一名消息人士直言,這份報告完全是捏造的,且差點引發了一場戰爭,因為美國對中國船
艦的任何軍事行動,都極可能失控演變成兩國武裝衝突。對此,太平洋特種作戰司令部與
五角大廈皆未回覆置評請求。
憂AI競賽落後敵國 美軍急推卻缺乏把關
美軍之所以急於將AI導入從打擊目標篩選,到預算管理、後勤與供應鏈等各個環節,主要
是為了加快戰場決策速度。官員們坦言,美國絕不能在AI整合上掉隊,否則未來若與中國
或其他對手開戰,恐將落居下風。
美國國防部長赫格塞斯(Pete Hegseth)在今年1月發布了「人工智慧加速戰略」,力拚
加快軍方採用AI的腳步,強調將放手進行實驗,並將AI模型交到300萬名文職與軍職人員
手中。
然而,多名官員透露,這項推動計畫十分鬆散,政府各部門在不同的指令與安全標準下使
用不同工具,缺乏統一的驗證標準。目前尚不清楚惹禍的機器人是商用軟體還是政府產品
,一名前美國高階官員更直言,這些內部工具「大多只是把商用軟體換個皮照抄過來」。
「人類介入」機制失靈 平民傷亡與誤擊風險增
這起事件凸顯了將新興技術用於戰爭目標鎖定的巨大風險。華府決策者近期為AI爭論不休
,科技業也警告AI可能引發文明毀滅。但中國船艦事件點出了更迫在眉睫的危機:人類因
為輕信AI產出的錯誤資訊,進而做出災難性決策。
一名熟悉政策的消息人士表示,將AI用於目標鎖定的情況正在激增,但目前根本缺乏指導
原則,無法確保「人類介入」能有效防止平民傷亡或友軍誤擊。
情報界人士指出,自從這類工具氾濫後,AI產生「幻覺」早就不只發生過一次。資深情報
官員擔憂,AI迫使分析師以更快速度發布情報,反而增加犯錯機率,尤其是年輕一代的分
析師更容易盲目相信這些數位工具。一名消息人士無奈表示,「AI只是讓你更快想到一個
餿主意罷了。」