앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자, 선전 활동가 등이 자사의 인공지능 모델을 위험한 목적으로 활용하려 했다고 밝혔다.
앤스로픽은 목요일 공개한 154쪽 분량의 위협 정보 보고서에서 인공지능 모델이 미사일과 폭탄 설계, 치명적인 병원체 개발, 반체제 인사 감시 등에 활용될 수 있다고 설명했다.
회사는 이번 보고서에 담긴 사례들이 일반적인 악용이 아니라 지금까지 확인한 위협 활동 가운데 주목할 만하고 새로운 사례라고 밝혔다. 또한 인공지능 서비스의 악의적인 사용을 공개할 책임이 있다고 설명했다.
앤스로픽은 특히 생물학 연구와 관련한 5건의 사례를 제시했다. 해당 사례에서 연구자들은 지원 대상이 아닌 지역의 이용자를 차단하기 위한 안전장치를 우회했으며, 자신들의 연구 목적을 숨기려 한 것으로 전해졌다.
앤스로픽은 이들 계정을 차단했지만, 연구기관의 이름과 악용이 발생한 국가를 공개하지 않았다. 연구자들의 의도를 확신할 수 없다는 이유에서다.
보고서에는 러시아의 첩보 활동과 이른바 ‘침입 후 탈취’ 방식의 사이버 공격, 중국에 기반을 둔 위구르족 감시 프로그램, 내부 반체제 인사 감시 활동 등의 사례도 포함됐다.
또한 러시아·말레이시아·이란·방글라데시에서 선전 활동에 인공지능 모델이 활용된 사례와 예멘·중국·러시아에서 총기·미사일·무장 드론·폭탄 등 재래식 무기 개발을 위한 소프트웨어 제작에 클로드가 사용된 사례도 보고됐다.
생물학 연구 사례 가운데 하나에서는 한 과학자가 국가 지원 연구비 신청서를 작성하는 과정에서 클로드를 활용해 치쿤구니야 바이러스 연구를 진행한 것으로 나타났다. 치쿤구니야 바이러스는 모기를 통해 전파되며 뎅기열과 말라리아와 유사한 질환을 일으킬 수 있는 것으로 설명됐다.
이 같은 연구는 백신 개발에 활용될 수 있지만, 생물학 무기 개발에도 악용될 가능성이 있다. 앤스로픽은 해당 연구가 군사 연구기관에서 진행될 예정이었다는 점에서 특히 우려스러운 사례라고 밝혔다.
보고서 공개는 앤스로픽 직원 제이컵 콕슨이 인공지능 기술 개발 과정에서 회사가 책임 있게 행동하지 않고 있다며 사임한 지 이틀 만에 이뤄졌다. 콕슨은 앤스로픽과 오픈AI가 2030년까지 인류 멸종을 초래할 수 있는 자기개선형 초지능을 향해 경쟁하고 있다고 주장했다.
일부 앤스로픽 직원들도 콕슨의 문제 제기에 공개적으로 동의한 것으로 전해졌다.
인공지능 전문가들은 전능한 초지능에 따른 종말론적 위험보다 보고서에 담긴 사이버 공격과 생물학 무기 개발 등 현실적인 악용 위험이 향후 3년 안에 더 심각할 수 있다고 지적했다.
앤스로픽은 인공지능 모델의 악용이 대중에게 드러나는 경우는 많지 않으며, 내부 조사와 학계·정부·국제기구의 조사를 통해 확인되는 경우가 많다고 밝혔다.
회사는 인공지능 모델의 역량이 높아질수록 위험도 커질 수 있다며, 인공지능 개발업계와 정부, 사회의 방어 주체들이 함께 대응책을 마련해야 한다고 강조했다.