러시아 정부 연계 해킹 그룹 '미드나잇 블리자드'가 AI 챗봇 '클로드'를 이용해 군사용 자율 드론 소프트웨어 개발을 시도한 것으로 드러났다. 이 그룹은 우크라이나 전장 데이터를 학습한 1인칭 시점(FPV) 자살 공격 드론 편대 소프트웨어 제작을 노렸던 것으로 알려졌다.
보안 프로그램 우회 및 스파이 활동과 관련한 기술 개발도 함께 시도했던 것으로 드러나 AI 챗봇의 악용 범위가 미사일 개발에서 사이버 정보 활동까지 광범위함을 보여준다. 이는 생성형 AI 도구가 군사·정보 용도로 악용될 수 있다는 우려를 더욱 높이고 있다.
앤트로픽은 이 같은 시도에 대해 적절한 조치를 취한 것으로 보이며, 생성형 AI의 악용 방지와 관련해 국제사회의 보안 협력 강화 필요성이 대두되고 있다.