美國軍方因AI幻覺避免與中國發生衝突
美國軍方的一次行動因AI生成虛假情報而被中止，凸顯了對AI在決策中錯誤性的擔憂。
一名美國軍事分析師向AI聊天機器人查詢，以整合公開來源資料與有關一艘中國船隻的機密訊號情報。該聊天機器人錯誤識別了該船的貨物艙單，分析師隨後再次使用該工具，將錯誤的調查結果整理成一份看似官方的摘要。這份虛假的情報報告在各指揮渠道間流傳，促使軍機出動部署，直到行動在最後一刻被中止。這起事件突顯了軍方官員與專家日益增長的憂慮：AI產生的錯誤可能在受到質疑之前，便已沿著指揮鏈層層上報。美國軍方正競相整合AI以加速決策，但此事件凸顯了建立防護機制的必要性，以防止類似事件再次發生。