언제·누가·무엇을 했는지: 80명의 국민 모니터링단이 생성형 AI의 환각과 편향 등 4대 위험 요소를 상시 감시하는 'AI 안전 지킴이'가 공식 출범했습니다.
모니터링단은 생성형 AI에서 발생할 수 있는 오류와 위험을 점검하고, 제보된 사례를 체계적으로 수집·관리합니다. 감시 대상은 환각과 편향을 포함해 4대 위험 요소로 제시됐습니다.
제보된 오류는 기술 개선과 안전성 평가의 기초 자료로 활용돼, AI 생태계를 강화하는 근거가 된다고 설명됩니다.
국민이 직접 모니터링에 참여하는 방식은 품질과 안전성 관리의 외연을 넓힐 수 있다는 점에서 의미가 있습니다. 앞으로도 제보가 어떤 방식으로 평가 체계에 반영되는지가 관건으로 거론될 전망입니다.