미군, AI 환각 현상으로 인해 중국과의 충돌 회피
중국 선박에 대한 미군 작전이 AI가 생성한 잘못된 정보로 인해 중단되었으며, 이는 의사 결정 과정에서의 AI 오류에 대한 우려를 부각시키고 있습니다.
미군 분석관이 AI 챗봇에 질의하여 중국 선박에 관한 공개 소스 데이터와 기밀 신호 정보를 통합 분석하도록 했다. 챗봇은 해당 선박의 화물 적하 목록을 잘못 식별했고, 분석관은 이 도구를 다시 사용해 오류가 있는 결과물을 공식 문서처럼 보이는 요약본으로 작성했다. 잘못된 정보 보고서가 지휘 계통 전반에 유통되면서 군용 항공기가 배치될 상황에 이르렀으나, 작전은 마지막 순간에 중단되었다. 이번 사건은 AI 오류가 검증되기도 전에 지휘 계통을 따라 상층부로 전달될 수 있다는 점에 대해 군 관계자들과 전문가들 사이에서 커지고 있는 우려를 부각시켰다. 미군은 의사 결정 속도를 높이기 위해 AI 통합에 총력을 기울이고 있지만, 이번 사건은 유사한 사건을 방지하기 위한 안전장치의 필요성을 강조하고 있다.