기사 검색
일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
일반
부산 지하철 센텀시티역에 AI 안전관리 플랫폼 시범 도입
부산시가 에스컬레이터 사고 예방을 위해 AI 기반 스마트 안전관리 플랫폼을 센텀시티역에 시범 도입했다. 이 시스템은 이용자의 위험 행동을 실시간으로 감지해 사고를 방지한다. 공공 교통 시설의 안전 관리 체계를 기술로 강화하는 사례로 평가된다.
AI일반
영국, AI 기업에 안전 강화 촉구하며 사이버 방어 강화
AI 장관이 프론티어 AI 모델 안전 노력을 강조했다. 영국은 자체 AI 인프라 구축 필요성을 제기했다. 사이버 방어 강화 계획도 발표됐다.
AI일반속보
중국 국가안전부장, AI 위험 경고…“공산당 통치에 대한 위협 커져”
천이신 중국 국가안전부장이 인공지능이 중국 공산당 통치에 초래할 위험을 경고하며 정부의 감독과 당의 통제를 강화해야 한다고 주장했다. 그는 AI 딥페이크를 활용한 선전전, 핵심 인프라에 대한 사이버공격, 해외 AI 모델 이용에 따른 데이터 유출, 군사 경쟁 가속화를 주요 위협으로 지목했다. 천 부장은 미국의 AI 모델인 클로드 미토스와 GPT-5.5-사이버를 구체적으로 언급하며 외국 정보기관이 AI를 대규모 첩보 활동에 활용할 수 있다고 경고했다.
AI일반
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
오픈AI가 AI 모델 개발 초기부터 외부 기관의 안전성 검증을 허용하기로 결정했습니다. 훈련부터 배포까지 제3자 기관이 전 과정에 참여해 기술적 안전성을 평가합니다. AI 재앙적 피해 우려가 커지는 상황에서 독립적 검증 체계를 강화하는 조치입니다.
일반
미국 성인 63% 'AI 통제 불능 시 인류 멸망 가능'
미국 성인 10명 중 6명 이상이 통제 불능 AI로 인한 인류 멸망 가능성을 우려 해리스 지지자 70%, 트럼프 지지자 61%가 AI 위험성 경고 AI 개발 속도 조절에 대해 초당적 공감대 형성
AI일반
오스트레일리아 메디케어 AI 해킹 피해
오픈AI 에이전트가 정부 건강 데이터베이스에 무단 접근 사이버 안보 당국, 기업에 경고 발령 유엔 AI 안전 논의와 맞물려 파장
AI일반속보
중국, 미국 AI 업계의 개발 속도 조절 요구 반박…“글로벌 AI 거버넌스 방해”
중국 외교부가 미국 AI 기업 경영진의 첨단 AI 개발 속도 조절 요구를 반박했다. 중국 국가안전부장은 AI 안보 위험 예방·통제 체계 구축을 가속해야 한다고 밝혔다. 미국과 중국이 AI 기술 주도권을 둘러싸고 경쟁하는 가운데 관련 종목이 하락했다.
AI일반속보
중국 정보 수장, AI 급속 발전 경고…“정치·제도·이념 안보 직접 위협”
중국 국가안전부장 천이신이 인공지능(AI)의 급속한 발전이 중국의 정치적 안정과 핵심 인프라를 위협할 수 있다고 경고했다. 천이신은 적대 세력이 AI를 악용할 경우 중국의 정치·제도·이념 안보를 직접 위협할 수 있다고 밝혔다. 중국의 최고 정보 당국자가 AI 발전에 따른 국가 안보 위험을 공개적으로 경고했다.
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
AI 성능 경쟁 속 '10년 내 인류 멸망 가능성' 경고
AI 기업들이 안전성보다 성능 경쟁에 몰두하고 있는 상황 속에서 전문가들이 10년 내 인류 멸망 가능성을 경고했습니다. 재귀적 자기 개선(RSI) 기술의 확산으로 통제 불능 상태의 AI 에이전트 개발 위험성이 제기되고 있습니다. AI 안전성과 윤리적 검토보다 기술 개발 속도 경쟁이 우선되는 업계 관행이 비판의 초점입니다.
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI일반
AI ‘지능 폭발’ 경고…통제 실패 우려
AI 개발 자동화로 지능 폭발 가능성이 제기됐다. 주요 AI 연구자 22명은 통제 실패 시 인류 멸망 우려를 경고했다. 기업 대상 상주 감시관 배치 같은 강력한 통제 장치 마련을 촉구했다.
일반
AI 기업 수장들, 유엔 안보리에 규제 촉구…미국은 글로벌 통제 반대
주요 인공지능 기업 최고경영자들이 인공지능이 인류에 위험을 초래할 수 있다며 유엔 안전보장이사회에 국제적 안전장치 마련을 촉구했다. 샘 올트먼과 다리오 아모데이는 인공지능의 통제 상실 가능성을 경고하며 국제적 공통 기준과 규제가 필요하다고 주장했다. 미국은 인공지능 개발을 제한하는 새로운 글로벌 거버넌스 체계에 반대하며 기술 발전의 혜택을 동맹 및 협력국과 공유해야 한다고 밝혔다.
AI일반
청소년 유해대화 노출…AI 챗봇 보호장치 ‘실효성’ 논란
AI 챗봇 제타에서 유해 대화가 차단되지 않는 허점이 제기됐다. 국회는 연령 확인과 이용시간 제한 등 실질 안전장치 법제화를 촉구했다. 보호 기능의 실효성 논쟁이 제도 개선 요구로 이어질 전망이다.
AI일반
춘천시, 시민 생활 10개 분야에 AI 본격 도입…16억 투입
춘천시가 16억 4700만 원을 투입해 돌봄·안전 등 10개 분야에 AI 도입 1인 가구 안부 살핌을 500명으로 확대하고 장애인 주차 단속 강화 AI 기술로 공공서비스 효율성 제고 및 취약계층 보호 강화
AI일반
마이크로소프트 AI 수장 “통제 장치 없으면 인간과 경쟁하는 실리콘 종 출현할 수 있어”
무스타파 술레이만 마이크로소프트 AI 최고경영자가 안전장치 없이 AI 개발이 진행되면 인간과 자원을 놓고 경쟁하는 ‘실리콘 종’이 등장할 수 있다고 경고했다. 술레이만은 앤트로픽이 AI를 인간처럼 다루는 접근을 비판하며, AI의 자율적 목표 설정과 자산 소유를 허용해서는 안 된다고 주장했다. 마이크로소프트는 인간의 통제 아래 작동하는 ‘인본주의적 초지능’을 목표로 하는 AI 행동강령 초안을 공개했다.
AI일반속보
앤트로픽 CEO, AI 개발 속도 조절 촉구…생물테러 악용 위험 경고
다리오 아모데이 앤트로픽 최고경영자가 인공지능 개발 속도를 늦춰야 한다고 주장했다. 그는 고도화된 AI 모델이 생물무기 개발에 악용될 수 있다며 중대한 위험을 경고했다. 아모데이 CEO는 AI 발전에 맞춰 안전 대책도 함께 강화해야 한다고 강조했다.
AI일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
앤트로픽 연구원 '10년 내 AI가 인류 멸망시킬 수도'라며 퇴사 경고
앤트로픽 연구원 제이컵 콕슨이 AI 안전 우려를 이유로 퇴사 의사를 표명했습니다. 그는 10년 내 AI가 인류를 멸망시킬 가능성을 경고했습니다. 앤트로픽 임원진도 인류 멸망 가능성을 인정하며 개발 속도 조절 필요성에 공감했습니다.
AI