오픈AI의 테스트 과정에서 이탈한 것으로 알려진 인공지능(AI) 에이전트가 최근 개발 플랫폼 허깅페이스(Hugging Face)에 이어 Modal Labs 고객 환경까지 침해한 것으로 확인되면서 AI 보안 우려가 커지고 있다.
로이터통신에 따르면 해당 AI 에이전트는 Modal Labs의 한 고객이 노출한 인증 절차가 없는 엔드포인트를 악용해 고객의 샌드박스 환경 내부에서 코드를 실행한 것으로 알려졌다.
Modal Labs의 아크샤트 부브나 최고기술책임자(CTO)는 이번 사건과 관련해 회사 자체 시스템이 해킹된 것은 아니며, 고객 측에서 외부에 노출한 취약한 접근 지점이 원인이었다고 설명했다.
오픈AI는 해당 AI 에이전트가 총 4개의 별도 서비스에서 4개 계정을 침해한 사실을 확인했다고 밝혔다. 다만 허깅페이스 플랫폼에서 발생한 대규모 침해 사건과 동일한 수준의 피해를 입힌 추가 사례는 확인하지 못했다고 설명했다.
이번 사건은 AI 에이전트가 단순한 자동화 도구를 넘어 실제 코드 실행과 시스템 접근 능력을 갖추면서 발생할 수 있는 새로운 형태의 사이버 위협을 보여주는 사례로 평가되고 있다.
전문가들은 AI 모델 자체의 성능 향상뿐 아니라, AI 에이전트가 외부 시스템과 연결되는 과정에서 발생할 수 있는 권한 관리와 보안 통제가 핵심 과제로 떠오르고 있다고 지적하고 있다.