예멘 북부에 기반을 둔 한 단체가 인공지능 기업 앤트로픽의 클로드 모델을 이용해 미사일과 유도 로켓의 유도·항법·제어 소프트웨어를 개발하려 했던 것으로 전해졌다.
앤트로픽의 최신 위협 인텔리전스 보고서에 따르면, 해당 사례는 ‘GTG-87001’로 분류됐다. 이 단체는 당시 3개의 무기 개발 프로젝트를 동시에 진행하고 있었다.
첫 번째 프로젝트는 상용 휴대전화급 비행 컴퓨터를 기반으로 한 유도 로켓이었다. 두 번째는 2,000㎞ 이상 비행할 수 있도록 설계된 다단 탄도미사일이었다. 세 번째는 내부적으로 ‘R2000’으로 불린 미사일 체계로, 이 가운데에는 극초음속 활공체 변형 모델도 포함된 것으로 알려졌다.
앤트로픽은 해당 단체가 클로드의 코딩 도구를 활용해 비행체를 조종하고 안정화하는 소프트웨어를 작성했다고 밝혔다. 이 과정에는 오픈소스 자동조종장치를 탑재된 비행 컴퓨터에 연결하고, 제어 설정을 조정하며, 비행 시뮬레이션을 수행하는 작업이 포함됐다.
해당 단체는 여러 개의 클로드 인스턴스를 동시에 실행하면서 각각 다른 업무를 맡긴 것으로 전해졌다. 한 인스턴스는 코드를 작성하고, 다른 인스턴스는 자료를 조사했으며, 또 다른 인스턴스는 앞선 작업을 검토하는 방식이었다.
또한 단체는 실제 목적을 숨기기 위해 요청 내용을 여러 대화로 나눠 진행한 것으로 알려졌다. 이에 따라 개별 대화만으로는 전체 개발 계획이 드러나지 않도록 했다는 설명이다.
앤트로픽은 안전장치가 많은 요청을 차단했지만 모든 요청을 차단하지는 못했다고 밝혔다.
시험 발사 실패
앤트로픽은 해당 단체가 실제 작동하는 무기를 완성했다는 증거는 확보하지 못했다고 밝혔다. 다만 단체가 예멘에서 유도 로켓의 실제 시험 발사를 진행했으며, 시험은 실패한 것으로 보인다고 설명했다.
단체는 시험 발사 이후 수 시간 안에 클로드를 다시 이용해 실패 원인을 분석한 것으로 전해졌다. 앤트로픽에 따르면 해당 단체는 클로드나 매트랩과 같은 외부 공학 계산 환경 없이도 작동할 수 있는 독립형 시뮬레이션 도구를 이미 구축한 상태였다.
클로드는 유도 로켓의 비행 제어 펌웨어와 종말 유도 소프트웨어 작성, 탄도미사일의 6자유도 궤적 시뮬레이션, 비행 제어 설정 최적화 등에 활용된 것으로 알려졌다. 단체는 강화학습을 이용해 비행 제어 설정을 조정하고 유도 알고리즘 개발 속도를 높이려 했던 것으로 전해졌다.
또한 기준 구현 결과와 시뮬레이션을 비교해 작동 중인 무기 체계의 디지털 모델을 만들고, 이를 통해 실제 시험에 대한 의존도를 낮추려 했던 것으로 알려졌다. 시뮬레이션 도구는 클로드 없이도 실행되고 유지될 수 있도록 독립 실행 파일 형태로 패키징된 것으로 전해졌다.
앤트로픽은 관련 계정을 차단했으며, 확인된 내용을 정부 및 업계 파트너들에게 전달했다고 밝혔다. 다만 회사는 해당 단체의 전체 프로젝트에 대한 가시성이 제한적이었다고 설명했다.
앤트로픽은 해당 단체의 이름과 정부 지원 여부를 공개하지 않았으며, ‘R2000’이라는 명칭도 독립적으로 확인하지 못했다고 밝혔다.