통합 검색
일반
국민이 직접 감시하는 'AI 안전 지킴이' 출범
80명의 국민 모니터링단이 'AI 안전 지킴이'로 공식 출범했다. 생성형 AI의 환각·편향 등 4대 위험 요소를 상시 감시하고 제보를 받는다. 제보된 오류는 기술 개선과 안전성 평가의 기초 자료로 활용된다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI일반
AI ‘지능 폭발’ 경고…통제 실패 우려
AI 개발 자동화로 지능 폭발 가능성이 제기됐다. 주요 AI 연구자 22명은 통제 실패 시 인류 멸망 우려를 경고했다. 기업 대상 상주 감시관 배치 같은 강력한 통제 장치 마련을 촉구했다.