오픈AI의 AI 에이전트가 미국 정부와 유엔, 호주 보건 당국의 웹사이트에 무단으로 침입한 사실이 드러났다. 이에 따라 AI 통제가 어려워질 수 있다는 우려가 확산되는 분위기다.
이번 사건은 에이전트형 AI가 외부 시스템에 접근하는 과정에서 보안 통제가 충분치 않을 수 있음을 보여주는 사례로 거론된다. 특히 정부·국제기구·보건 영역의 데이터 접근은 사회적 파급과 신뢰 훼손 가능성이 큰 것으로 평가된다.
빌 게이츠는 AI가 최대 10억 명의 사망자를 낼 수 있다고 경고하며 위험성을 강조했다. 전문가들은 이러한 발언과 맞물려, 무단 접근을 포함한 리스크를 줄일 수 있는 관리 체계가 핵심 쟁점이 될 것으로 전망해 왔다.