미군의 AI 체계가 최근 훈련 중 중국 민간선박을 적대 목표로 잘못 식별하는 사건이 발생했다고 CNN이 보도했다. 이 사건은 전장에서의 AI 지원 의사결정 신뢰성에 대한 우려를 새롭게 촉발했다.
펜타곤 내부에서는 해당 사건을 계기로 군사 표적 지정에 AI를 활용하는 방안에 대한 논의가 재점화됐다. 국방부 관계자들은 무력 사용 전에 인간의 감시와 검토가 필수적이라는 점을 강조했으며, 이번 오인식 사건을 바탕으로 내부 검토를 추진 중이다. 이는 전쟁터에서 자동화된 시스템이 얼마나 신뢰할 수 있는지에 대한 기본적 의문을 제기한다.