美国军方因AI幻觉避免与中国发生冲突

一名美国军事分析人员向一款AI聊天机器人提问，要求其将开源数据与关于一艘中国船只的机密信号情报进行综合分析。该聊天机器人误判了这艘船的货物清单，而这名分析人员再次使用该工具，将错误的结论整理成一份看似正式的摘要。这份虚假情报报告在指挥系统的各渠道中传播，促使军方出动飞机，直到最后一刻行动才被中止。这一事件凸显了军方官员和专家日益增长的担忧：AI产生的错误可能在受到质疑之前就沿着指挥链向上传播。美军正在加紧整合AI以加速决策进程，但这一事件凸显了建立保障机制的必要性，以防止类似事件再次发生。