美军因虚假AI情报几乎登上中国船只
美军聊天机器人错误标记中国船只货物为核部件，引发武装响应。这凸显了未经验证的AI生成情报的风险。
一名美国特种作战司令部的分析师使用了一个将开源情报与秘密信号情报混合在一起的聊天机器人，该机器人错误地将一艘中国船只上的货物标记为核武器部件。在错误被发现之前，武装士兵和飞机已经准备登船。据报道，军方内部的人工智能系统通常是由商用产品改装而成，缺乏验证人工智能生成情报的统一标准。这一事件印证了人们对人工智能在军事情报领域所带来风险的担忧，尤其是在使用者不加批判地使用这些系统时。