한전KPS는 감사 업무에 도입한 AI 에이전트의 보안과 윤리적 위험을 차단하기 위해 전담반 ‘KPS AI 이지스’를 구성하고 구축에 착수했다.
전담반은 인간이 시스템을 감독하는 ‘휴먼인더루프’ 원칙을 적용해 AI의 판단 오류로 인한 부작용을 줄이는 방식으로 신뢰성을 높일 계획이다. 감사 영역에서 AI가 개입될수록 보안·윤리 리스크와 함께 운영 신뢰 문제도 함께 관리해야 한다는 문제의식이 반영된 조치로 평가된다.
이번 방어체계 구축은 AI 감사의 실효성과 수용성을 좌우하는 핵심 조건인 통제 장치를 선제적으로 마련한다는 의미가 있다. 향후에도 전담반이 보안과 윤리 기준의 적용, 감독 체계의 작동을 중심으로 운영 안정성을 확인해 나갈 것으로 보인다.