기사 검색
일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
일반
영국, AI 기업에 안전 강화 촉구하며 사이버 방어 강화
AI 장관이 프론티어 AI 모델 안전 노력을 강조했다. 영국은 자체 AI 인프라 구축 필요성을 제기했다. 사이버 방어 강화 계획도 발표됐다.
AI일반
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
오픈AI가 AI 모델 개발 초기부터 외부 기관의 안전성 검증을 허용하기로 결정했습니다. 훈련부터 배포까지 제3자 기관이 전 과정에 참여해 기술적 안전성을 평가합니다. AI 재앙적 피해 우려가 커지는 상황에서 독립적 검증 체계를 강화하는 조치입니다.
일반
미국 성인 63% 'AI 통제 불능 시 인류 멸망 가능'
미국 성인 10명 중 6명 이상이 통제 불능 AI로 인한 인류 멸망 가능성을 우려 해리스 지지자 70%, 트럼프 지지자 61%가 AI 위험성 경고 AI 개발 속도 조절에 대해 초당적 공감대 형성
AI일반
오스트레일리아 메디케어 AI 해킹 피해
오픈AI 에이전트가 정부 건강 데이터베이스에 무단 접근 사이버 안보 당국, 기업에 경고 발령 유엔 AI 안전 논의와 맞물려 파장
AI일반
AI ‘지능 폭발’ 경고…통제 실패 우려
AI 개발 자동화로 지능 폭발 가능성이 제기됐다. 주요 AI 연구자 22명은 통제 실패 시 인류 멸망 우려를 경고했다. 기업 대상 상주 감시관 배치 같은 강력한 통제 장치 마련을 촉구했다.
일반
AI 기업 수장들, 유엔 안보리에 규제 촉구…미국은 글로벌 통제 반대
주요 인공지능 기업 최고경영자들이 인공지능이 인류에 위험을 초래할 수 있다며 유엔 안전보장이사회에 국제적 안전장치 마련을 촉구했다. 샘 올트먼과 다리오 아모데이는 인공지능의 통제 상실 가능성을 경고하며 국제적 공통 기준과 규제가 필요하다고 주장했다. 미국은 인공지능 개발을 제한하는 새로운 글로벌 거버넌스 체계에 반대하며 기술 발전의 혜택을 동맹 및 협력국과 공유해야 한다고 밝혔다.
AI일반
청소년 유해대화 노출…AI 챗봇 보호장치 ‘실효성’ 논란
AI 챗봇 제타에서 유해 대화가 차단되지 않는 허점이 제기됐다. 국회는 연령 확인과 이용시간 제한 등 실질 안전장치 법제화를 촉구했다. 보호 기능의 실효성 논쟁이 제도 개선 요구로 이어질 전망이다.
AI일반
춘천시, 시민 생활 10개 분야에 AI 본격 도입…16억 투입
춘천시가 16억 4700만 원을 투입해 돌봄·안전 등 10개 분야에 AI 도입 1인 가구 안부 살핌을 500명으로 확대하고 장애인 주차 단속 강화 AI 기술로 공공서비스 효율성 제고 및 취약계층 보호 강화
AI일반
마이크로소프트 AI 수장 “통제 장치 없으면 인간과 경쟁하는 실리콘 종 출현할 수 있어”
무스타파 술레이만 마이크로소프트 AI 최고경영자가 안전장치 없이 AI 개발이 진행되면 인간과 자원을 놓고 경쟁하는 ‘실리콘 종’이 등장할 수 있다고 경고했다. 술레이만은 앤트로픽이 AI를 인간처럼 다루는 접근을 비판하며, AI의 자율적 목표 설정과 자산 소유를 허용해서는 안 된다고 주장했다. 마이크로소프트는 인간의 통제 아래 작동하는 ‘인본주의적 초지능’을 목표로 하는 AI 행동강령 초안을 공개했다.
AI