사티아 나델라 MS CEO가 슈퍼지능(SI)의 위험을 막기 위해 필요할 때 즉시 중단할 수 있는 안전장치가 필수라고 강조했습니다.
그는 AI를 내부자 위험으로 볼 수 있다며, 내부 통제와 외부 통제 권한을 분리하는 새로운 신뢰 체계 구축을 제안했습니다. 이런 접근은 시스템이 자율적으로 확장되거나 오남용될 가능성을 줄이기 위한 안전 설계 논리로 해석됩니다.
나델라의 발언은 SI 개발·운영에서 기술적 제동장치와 권한 구조가 함께 검토돼야 한다는 메시지로 받아들여집니다. 다만 구체적인 적용 범위와 일정 등 후속 내용은 확인되지 않아, 향후 제도화 여부와 실무 반영 수준은 추가 논의가 필요해 보입니다.