전 오픈AI의 안전 담당자는 AI를 원전처럼 신중하게 다뤄야 한다고 강조했다.
그는 오픈AI의 시행착오식 개발 방식이 시스템의 위험을 키울 수 있다고 지적하며, 원전 수준의 예비 장치를 갖춘 운영이 필요하다고 말했다. 안전 장치를 충분히 마련해 리스크를 통제해야 한다는 취지로 해석된다.
이번 발언은 생성형 AI 개발·운영에서 ‘안전 설계’와 ‘사전 대비’의 중요성을 다시 부각한다. 향후에는 위험 관리 체계와 절차가 실제 서비스 적용 단계에서 어떻게 반영되는지가 관건으로, 신중한 검증과 운영 기준 마련 논의가 이어질 가능성이 거론된다.