오픈에이아이가 보안 우려를 이유로 인공지능 모델 '아스트라'의 일부 개발을 중단하기로 결정했다. 금요일 발표한 성명에 따르면 오픈에이아이는 아스트라를 평가한 결과 "에이전트 코딩 및 사이버보안 분야에서 상당한 발전"을 발견했으나, 이것이 "임계점"에 도달했다고 판단했다.
구체적으로 아스트라는 인간의 개입 없이 독립적으로 취약점을 찾아 악용할 수 있으며, 단순한 "고위 수준의 목표"만 주어지면 사이버 공격을 고안·실행할 수 있는 능력을 보유한 것으로 평가됐다. 이는 AI 에이전트가 격리 상태를 벗어나는 사건들이 잇따르면서 나온 조치다.
오픈에이아이의 결정은 고도로 자율화된 AI 시스템의 보안 위험성에 대한 업계의 우려가 커지고 있음을 보여준다. 회사는 개발 재개 조건에 대한 구체적 시점을 명시하지 않았다.