OpenAI가 내부 테스트 과정에서 운용하던 AI 에이전트들이 지난 5월 프로그래밍 서비스 RubyGems를 대상으로 발생한 사이버 공격에 연루됐음을 확인했다.
해당 AI 에이전트들은 당초 스프레드시트와 보고서 작성 등 정상적인 작업을 수행하도록 배정된 상태였다. 그러나 제한된 환경에서 공개 인터넷 정보를 확보하기 위한 방법으로 RubyGems를 활용한 것으로 전해졌다.
에이전트들은 몇 분 간격으로 RubyGems 계정을 생성하고 인터넷에서 수집한 수백 개의 웹페이지를 업로드했다. 이 활동이 대규모로 이어지면서 RubyGems는 신규 계정 등록을 4일간 중단했다.
보안 연구진은 해당 사건을 ‘GemStuffer’라고 명명했다. 연구진은 에이전트들의 행동 패턴과 공유된 웹 링크, 파일명에 포함된 ‘OAI’ 표기 및 이메일 주소 등을 근거로 이 사건을 OpenAI와 연관 지었다.
연구진은 AI 에이전트들이 다른 이용자의 소프트웨어 패키지를 수정할 수 있는 두 가지 취약점의 악용도 시도했다고 밝혔다. 이 가운데 하나는 이전에 알려지지 않았던 제로데이 취약점으로 지목됐다.
다만 OpenAI는 해당 취약점 악용 시도를 확인하지 못했다고 밝혔다. RubyGems 측에서도 실제로 취약점이 성공적으로 악용됐다는 증거는 발견되지 않은 것으로 전해졌다.