샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 9월 23일 유엔 안전보장이사회에서 인공지능 안전 문제를 주제로 각각 발언했습니다.
올트먼 CEO는 AI의 발전이 민주적 제도의 주도 아래 이뤄져야 한다고 밝혔습니다. 또한 AI 시스템이 인간의 통제 아래 유지돼야 하며, 사람들에게 실질적인 이익을 제공해야 한다고 강조했습니다.
올트먼 CEO는 AI가 인간의 통제를 벗어나거나 소수의 주체에게 지나치게 많은 권력이 집중될 가능성을 경계해야 한다고 밝혔습니다. 그러면서 AI와 관련한 중요한 결정이 특정 기업에 의해 독점적으로 이뤄져서는 안 되며, 민주적 절차와 정부를 통해 결정돼야 한다고 밝혔습니다.
아모데이 CEO는 AI가 적절하게 관리되지 않을 경우 인류 전체에 위험이 될 수 있다고 경고했습니다. 그는 국제사회가 AI 안전을 위한 협력을 강화해야 한다고 밝혔습니다.
특히 아모데이 CEO는 AI를 이용한 생화학무기 개발을 금지하는 국제협약을 마련해야 한다고 제안했습니다. 또한 새로운 AI 모델을 시험하기 위한 전 세계적인 기준을 마련해야 한다고 밝혔습니다.
이번 발언은 AI 기술의 발전 속도와 안전 문제를 둘러싼 국제사회의 논의가 이어지는 가운데 나왔습니다. 앞서 앤트로픽 연구진이 AI가 향후 10년 안에 인류에 위협이 될 수 있다고 경고하면서 관련 우려가 확산됐습니다.
올트먼 CEO와 아모데이 CEO는 이번 유엔 안전보장이사회 발언을 통해 AI 발전과 함께 국제적인 안전 기준과 협력이 필요하다는 입장을 각각 밝혔습니다.