AIハルシネーションにより米軍が中国との紛争を回避

米軍のアナリストは、中国船舶に関するオープンソースデータと機密指定のシグナルス・インテリジェンス(通信情報)を統合させるため、AIチャットボットに問い合わせた。チャットボットはその船の積荷目録を誤って識別し、アナリストはこの誤った調査結果を公式文書のような要約に整形するため、再び同ツールを使用した。この虚偽の情報報告書は指揮系統全体に回覧され、作戦が土壇場で中止される直前に軍用機が展開される事態に至った。この一件は、AIの誤りが疑問視される前に指揮命令系統を上って伝わるおそれがあるとして、軍幹部や専門家の間で高まっている懸念を浮き彫りにしている。米軍は意思決定の迅速化のためにAIの統合を急いでいるが、この一件は、同様のインシデントを防ぐための安全対策の必要性を改めて強調している。