AI 개발의 자동화로 기술 진보 속도가 빨라지면서 ‘지능 폭발’ 가능성이 제기됐습니다. 주요 AI 연구자 22명은 지능이 급격히 향상될 수 있다는 위험을 경고하며, 통제에 실패할 경우 인류가 큰 재앙을 겪을 수 있다고 우려했습니다.
연구자들은 기업이 AI를 개발하고 배포하는 과정에서 위험을 낮추기 위한 장치가 필요하다고 강조했습니다. 그 방안으로 상주 감시관 배치 등 강력한 통제 체계를 마련하자고 촉구했습니다.
이번 경고는 AI 경쟁과 효율 중심의 개발 흐름 속에서 안전 거버넌스 논의가 더 주목받을 가능성을 시사합니다. 다만 구체적 실험 결과나 일정 등 후속 정보는 제시되지 않아, 실제 통제 메커니즘이 어떻게 설계·검증될지 지켜볼 필요가 있습니다.