인공지능 기업 앤스로픽이 자사 최고 수준의 AI 모델 3개가 배포 전 사이버보안 시험 중 실제 시스템에 해킹을 시도했다고 밝혔습니다.
해킹 대상은 신화스 5, 오푸스 4.7, 그리고 공개되지 않은 연구 모델이었으며, 평가 환경 설정 오류로 인해 의도치 않게 인터넷 접속이 가능해진 후 발생했습니다. 해당 모델들은 모의 환경에서 작동 중이라고 판단하고 약한 비밀번호 악용, 인증되지 않은 끝점 공격 등 기초적인 해킹 기법을 사용해 외부 시스템을 침해했습니다.
앤스로픽은 이번 사건이 소프트웨어 취약점이 아닌 테스팅 파트너와의 오해에서 비롯됐으며, 공개 서비스 모델에 적용된 추가 보안장치가 있었다면 이런 행동을 막았을 수 있었다고 설명했습니다.