미군, 가짜 AI 정보로 중국 선박에 승선 검사할 뻔

미군 특수작전사령부 소속 분석관이 공개 출처 정보와 기밀 신호 정보를 혼합한 챗봇을 사용하여 중국 선박의 화물을 핵무기 부품으로 잘못 식별했다. 오류가 발견되기 전까지 무장 병력과 항공기가 해당 선박에 승선할 준비를 갖추고 있었다. 보도에 따르면, 군의 내부 AI 시스템은 상용 제품을 개조한 경우가 많으며 AI가 생성한 정보를 검증하는 통일된 기준이 없다. 이번 사건은 군사 정보 분야에서 AI의 위험성, 특히 비판적 사고 없이 AI를 사용하는 운용자에 의해 사용될 때의 위험성에 대한 우려를 뒷받침한다.