무스타파 술레이만 마이크로소프트 AI 최고경영자가 적절한 안전장치 없이 인공지능 개발이 계속될 경우 인간과 경쟁하는 새로운 ‘실리콘 종’이 등장할 수 있다고 경고했다.
술레이만은 BBC 라디오 프로그램 ‘투데이’와의 인터뷰에서 AI에 대한 우려는 타당하다면서도, 기술을 통제하기 위해 실질적으로 실행할 수 있는 조치가 있다고 밝혔다.
그는 AI 기업들이 자체 목표를 설정하고 돈을 벌며 자산을 소유할 수 있는 시스템을 계속 개발해서는 안 된다고 주장했다. 이러한 방향은 사실상 새로운 실리콘 종을 만들어내는 것과 같으며, 해당 시스템이 인류를 얼마나 배려하더라도 자원을 놓고 인간과 경쟁할 수 있다는 설명이다.
술레이만은 특히 경쟁사인 앤트로픽이 AI 모델을 인간처럼 다루는 접근을 취하고 있다고 비판했다. 그는 AI에 인간과 유사한 욕구와 가치관, 자아를 부여하는 방식이 기술을 인간의 통제에서 벗어나게 만들 수 있다고 지적했다.
앞서 술레이만은 이번 주 공개한 글에서도 앤트로픽의 AI 모델 클로드 훈련 방식을 문제로 제기했다. 그는 앤트로픽의 다리오 아모데이 최고경영자와 연구진을 지적으로 정직한 사람들로 평가하면서도, AI를 인간처럼 의인화하는 방식에는 반대 입장을 밝혔다.
술레이만은 AI가 의식을 갖고 있거나 감정을 느끼고 고통을 경험하는 존재가 아니라고 주장했다. AI는 인간이 설정한 지시와 목표를 수행하도록 설계된 시스템이라는 설명이다.
그는 AI 시스템의 훈련과 평가 과정에 더 큰 투명성이 필요하다고 강조했다. 또한 AI의 행동에 대한 독립적인 검토와 기술을 감시하고 통제할 수 있는 강화된 도구가 필요하다고 밝혔다.
술레이만은 “나중에 뼈아프게 후회할 결정을 향해 무작정 걸어가서는 안 된다”는 취지의 경고도 내놓았다.
웬디 홀 사우샘프턴대학교 컴퓨터과학 교수는 이러한 논의가 국제적으로 필요하다고 평가했다. 다만 일부 AI 기업들이 과도한 표현으로 대중을 겁주고 있다고 지적했다.
AI 시스템에 어느 정도의 자율성을 허용할 것인지는 업계 내부에서도 갈등을 일으키는 쟁점으로 떠오르고 있다. 술레이만은 향후 AI 정상회의를 앞두고 인간의 가치와 원칙에 맞춰 AI를 개발하는 ‘정렬’이 필요하다고 밝혔다.
그는 모든 AI 시스템이 인류에 종속되고, 안전하며, 통제 가능한 상태로 유지돼야 한다고 주장했다.
마이크로소프트는 2025년 10월 자체 초지능 팀을 출범시켰으며, 첨단 AI 개발을 추진하고 있다. 회사가 공개한 ‘인본주의적 AI 행동강령’ 초안은 인간을 위해 작동하고 정해진 한계를 지키며 인간의 통제 아래 남아 있는 고도화된 AI를 목표로 제시했다.