AI如何提出1000个目标却忽略了学校标记

调查人员调查了伊朗米娜布（Minab）的一次袭击，该袭击导致120名儿童死亡，发现虽然美国军方使用人工智能（AI）选择了3000多个目标，但该系统失败了，因为一份2019年分析师的报告将该地点标记为学校，但从未被录入官方目标数据库。这个失败源于现代AI工具（包括Anthropic的Claude通过Palantir的Maven系统使用）与MIDB等传统数据库之间的脱节，MIDB仍然依赖于1980年代的手动数据录入。五角大楼的新战略涉及“代理AI”（agentic AI）计划，旨在自动将目标数据与谷歌地图等公共来源进行交叉引用，以防止类似的疏忽。这个案例揭示了将高速AI目标选择与停滞的基础设施配对的巨大危险，在这种情况下，致命决策的速度超过了基本情报的验证。