AI幻覺闖大禍！美軍誤信「中國貨輪載核武」

▲美國與伊朗爆發衝突期間，「AI幻覺」引發的誤會差點讓美軍登艦扣押中國船隻，圖為美軍航空母艦「華盛頓號」。（圖／翻攝自美軍中央司令部的X） [NOWNEWS今日新聞] AI會否危及人類社會近來引發熱烈討論，無論如何，即使AI本身並未失控，人類在使用上仍須小心其帶來的風險。《CNN》引述多名知情人士獨家報導指出，美國與伊朗爆發衝突期間，一艘位於中東海域的中國籍貨輪被判定正在運送核武器計畫的關鍵組件，讓美軍立即展開攔截行動。然而，在動手前一刻才驚覺該份報告竟是「AI幻覺」引發的誤會。一位消息人士直言，這份情報「完全是假的」，但它「幾乎引發了一場戰爭」。若美軍當時對中國船隻採取登艦扣押行動，極可能演變成美中之間的直接武裝衝突。 《CNN》報導指出，隸屬美國太平洋特種作戰司令部（SOCPAC）的一位分析師，當時使用AI聊天機器人查詢一艘行經中東的中國船隻貨物清單情報。AI結合了公開來源情報與政府內部的機密信號情報，最終產出了這份完全錯誤的評估，稱該船上載有「核武器計畫組件」。 分析師不疑有他，隨後又利用AI將評估結果包裝成標準情報報告，並對外發布。美軍隨即展開攔截行動，武裝人員一度準備登船搜查…