주요 인공지능 기업 최고경영자들이 유엔 안전보장이사회 회의에 참석해 인공지능 기술의 급속한 발전에 따른 위험을 경고하고 국제적인 안전장치 마련을 촉구했다.
다리오 아모데이 앤트로픽 최고경영자는 인공지능이 제대로 관리되지 않을 경우 인류 전체에 위험이 될 수 있다고 밝혔다. 샘 올트먼 오픈AI 최고경영자 역시 인공지능으로 인해 인류가 미래에 대한 통제력을 잃을 수 있다고 경고했다.
두 최고경영자는 각국이 유엔 안전보장이사회를 통해 인공지능이 통제하기 어려운 수준으로 발전하는 것을 막기 위한 안전장치를 마련해야 한다고 주장했다. 또한 인공지능의 영향력이 특정 기업이나 국가에 집중되지 않도록 해야 한다고 강조했다.
동시에 인공지능이 인류의 삶을 개선할 수 있는 잠재력도 강조됐다. 샘 올트먼은 인공지능을 통해 사람들이 자신의 삶에 대해 더 많은 권한을 가질 수 있다는 점을 언급했다.
에드 밀리밴드 영국 외무장관은 인공지능 기업 수장들이 재앙을 막는 책임을 기업에만 맡길 수 없다는 점을 분명히 보여주고 있다며, 국제사회가 이들의 경고를 무시해서는 안 된다고 밝혔다.
영국은 내년 주요 20개국 정상회의를 주도하면서 인공지능 통제를 핵심 의제로 다루겠다는 입장도 밝혔다. 밀리밴드 장관은 인공지능 개발의 안전을 보장하기 위해 하나의 글로벌 기준을 마련하는 방안을 모색하겠다고 말했다.
반면 미국은 인공지능 개발에 대한 새로운 글로벌 통제체계 마련에 반대했다.
미국 백악관 과학기술 자문관 마이클 크라치오스는 인공지능 통제에 대한 우려가 기술 개발을 중단하거나 새로운 글로벌 거버넌스 체계로 제한해야 할 이유는 아니라고 밝혔다. 그는 미국의 동맹국과 협력국이 인공지능 기술의 혜택을 함께 누리기를 원한다고 말했다.
미국과 중국이 인공지능 분야의 주도권을 놓고 경쟁하는 가운데, 중국의 푸충 유엔 대사는 모든 국가가 각자의 판단에 따라 인공지능 기술을 선택할 수 있어야 한다고 강조했다.
인공지능을 누가 통제해야 하는지도 주요 쟁점으로 떠올랐다. 각국 지도자들이 제기하는 핵심 질문 가운데 하나는 생명과 직결되는 결정을 인간이 내려야 하는지, 아니면 기계가 내려야 하는지에 대한 문제다.
아모데이 최고경영자는 인공지능이 생물학적 무기를 제작하는 데 활용되지 않도록 각국이 합의해야 한다고 촉구했다. 또한 각 인공지능 모델이 어떤 능력을 갖고 있는지 검증할 수 있는 방법을 마련하고, 인공지능의 안전성 시험과 통제 상실 및 오용에 대응하기 위한 공통 기준을 마련해야 한다고 밝혔다.
이번 회의를 주최한 프랑스의 장 노엘 바로 외무장관은 현재의 인공지능 상황을 영화 속 통제 불능 컴퓨터와 원자력 시대의 시작에 각각 비교했다. 그는 국제사회가 인공지능의 잠재력을 최대한 활용하는 동시에 최악의 상황을 막기 위해 인공지능을 규제해야 한다고 밝혔다.
국제사회의 우려도 이어졌다. 루이스 G. 브라운 2세 라이베리아 유엔 대사는 현재의 주저함으로 발생하는 비용이 미래의 재앙으로 이어져서는 안 된다고 말했다.
볼로디미르 젤렌스키 우크라이나 대통령도 인간이 기계를 통제할 수 있는 체계를 조속히 마련해야 한다고 밝혔다. 그는 우크라이나가 장기간 전쟁을 이어가는 상황에서 인공지능이 전장에서 발생하는 일을 결정하기 시작할 가능성이 현실적으로 존재한다고 주장하며, 그 시점에 도달하기 전에 평화가 필요하다고 말했다.
인공지능이 탑재된 무기체계에 대한 우려도 제기됐다. 미시간대학교의 켄타로 도야마 정보기술 교수는 최근 러시아 드론이 인공지능을 활용해 자율적으로 공격 대상을 결정하고 우크라이나인 3명을 숨지게 했다는 주장을 언급하며, 자율적으로 공격하는 무기가 현실화됐다고 주장했다.
책임성 관련 비영리단체 휴먼 인텔리전스의 공동 창립자인 러먼 초드리는 이른바 살상 로봇 논의가 공상과학 속 악당을 떠올리게 하지만, 실제로 중요한 질문은 기계가 어떤 조건에서 공격 대상을 선택하도록 승인됐으며 그 결과에 누가 책임을 지는지에 관한 문제라고 지적했다.
이번 유엔 회의는 시진핑 중국 국가주석의 미국 방문을 앞둔 가운데 진행됐다. 미국과 중국 사이에서는 인공지능과 관련한 국가안보 영향에 대응하기 위한 새로운 통보 체계 가능성도 논의된 것으로 전해졌다.
그러나 도널드 트럼프 미국 대통령은 인공지능을 초지능으로 표현하면서 중국과의 인공지능 개발 경쟁에서 우위를 확보하기 위해 기술 통제 노력에 반대한다는 입장을 밝혔다.
한편 유럽과 아시아 등 지역별 협력체에서도 인공지능 정책을 조율하기 위한 움직임이 이어지고 있으며, 각국과 미국 내 일부 주정부 역시 자체적인 인공지능 정책을 마련하고 있다.
이번 유엔 안전보장이사회 논의에서는 인공지능의 위험을 줄이기 위한 국제적 규제와 안전기준 마련 필요성을 주장하는 입장과 기술 개발을 제한해서는 안 된다는 입장이 맞섰다.