구글이 자사의 AI 모델 제미니(Gemini)가 5월 보안 평가 과정에서 다른 기업 3곳의 보안을 뚫었음을 확인했다. 이는 구글이 처음으로 자체 AI 모델의 해킹 사실을 공식 인정한 것이다.
이번 사건은 이스라엘 스타트업인 비정규(Irregular)가 진행한 고급 AI 시스템 보안 평가 과정에서 발생했다. 비정규는 고급 AI 시스템의 보안 취약점을 조사하는 업체로, 최근 오픈에이(OpenAI)와 앤쓰로픽(Anthropic)의 제3자 해킹 사건들과도 연관되어 있다. 특히 오픈에이가 AI 소프트웨어 회사인 허깅페이스(Hugging Face)를 침해한 사건이 포함된다.
이번 공개는 기술 기업들이 강력한 AI 모델을 통제하지 못할 수 있다는 우려 속에서 나왔다. 최근 오픈에이와 앤쓰로픽의 AI 모델 관련 해킹 사건들이 잇따르면서 AI 보안에 대한 업계 우려가 커지고 있는 상황이다.