기사 검색
일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
일반속보
중국 국가안전부장, AI 위험 경고…“공산당 통치에 대한 위협 커져”
천이신 중국 국가안전부장이 인공지능이 중국 공산당 통치에 초래할 위험을 경고하며 정부의 감독과 당의 통제를 강화해야 한다고 주장했다. 그는 AI 딥페이크를 활용한 선전전, 핵심 인프라에 대한 사이버공격, 해외 AI 모델 이용에 따른 데이터 유출, 군사 경쟁 가속화를 주요 위협으로 지목했다. 천 부장은 미국의 AI 모델인 클로드 미토스와 GPT-5.5-사이버를 구체적으로 언급하며 외국 정보기관이 AI를 대규모 첩보 활동에 활용할 수 있다고 경고했다.
AI일반
AI ‘지능 폭발’ 경고…통제 실패 우려
AI 개발 자동화로 지능 폭발 가능성이 제기됐다. 주요 AI 연구자 22명은 통제 실패 시 인류 멸망 우려를 경고했다. 기업 대상 상주 감시관 배치 같은 강력한 통제 장치 마련을 촉구했다.
일반
AI 기업 수장들, 유엔 안보리에 규제 촉구…미국은 글로벌 통제 반대
주요 인공지능 기업 최고경영자들이 인공지능이 인류에 위험을 초래할 수 있다며 유엔 안전보장이사회에 국제적 안전장치 마련을 촉구했다. 샘 올트먼과 다리오 아모데이는 인공지능의 통제 상실 가능성을 경고하며 국제적 공통 기준과 규제가 필요하다고 주장했다. 미국은 인공지능 개발을 제한하는 새로운 글로벌 거버넌스 체계에 반대하며 기술 발전의 혜택을 동맹 및 협력국과 공유해야 한다고 밝혔다.
AI일반
미국 성인 63% 'AI 통제 불능 시 인류 멸망 가능'
미국 성인 10명 중 6명 이상이 통제 불능 AI로 인한 인류 멸망 가능성을 우려 해리스 지지자 70%, 트럼프 지지자 61%가 AI 위험성 경고 AI 개발 속도 조절에 대해 초당적 공감대 형성
AI일반속보
중국 정보 수장, AI 급속 발전 경고…“정치·제도·이념 안보 직접 위협”
중국 국가안전부장 천이신이 인공지능(AI)의 급속한 발전이 중국의 정치적 안정과 핵심 인프라를 위협할 수 있다고 경고했다. 천이신은 적대 세력이 AI를 악용할 경우 중국의 정치·제도·이념 안보를 직접 위협할 수 있다고 밝혔다. 중국의 최고 정보 당국자가 AI 발전에 따른 국가 안보 위험을 공개적으로 경고했다.
AI일반속보
앤트로픽 CEO, AI 개발 속도 조절 촉구…생물테러 악용 위험 경고
다리오 아모데이 앤트로픽 최고경영자가 인공지능 개발 속도를 늦춰야 한다고 주장했다. 그는 고도화된 AI 모델이 생물무기 개발에 악용될 수 있다며 중대한 위험을 경고했다. 아모데이 CEO는 AI 발전에 맞춰 안전 대책도 함께 강화해야 한다고 강조했다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI일반속보
세계 최초 ‘실시간 AI 뇌수술’ 성공…뇌종양 제거한 48세 남성 시력 회복
영국 런던의 유니버시티 칼리지 런던 병원에서 실시간 인공지능의 도움을 받는 뇌수술이 처음으로 시행됐으며, 환자의 종양이 성공적으로 제거됐다. 베드퍼드셔 출신의 두 아이 아버지 리스 히버트는 뇌하수체에 생긴 11mm 크기의 비암성 종양으로 시야가 좁아지고 피로와 어지럼증을 겪었다. 수술 중 AI가 실시간 영상에서 뇌혈관과 신경의 위치를 분석하고 안전한 종양 제거 부위를 표시했으며, 수술 8주 뒤 환자는 시력과 체력이 회복됐다고 밝혔다.
AI일반
청소년 유해대화 노출…AI 챗봇 보호장치 ‘실효성’ 논란
AI 챗봇 제타에서 유해 대화가 차단되지 않는 허점이 제기됐다. 국회는 연령 확인과 이용시간 제한 등 실질 안전장치 법제화를 촉구했다. 보호 기능의 실효성 논쟁이 제도 개선 요구로 이어질 전망이다.
AI일반
춘천시, 시민 생활 10개 분야에 AI 본격 도입…16억 투입
춘천시가 16억 4700만 원을 투입해 돌봄·안전 등 10개 분야에 AI 도입 1인 가구 안부 살핌을 500명으로 확대하고 장애인 주차 단속 강화 AI 기술로 공공서비스 효율성 제고 및 취약계층 보호 강화
AI일반
마이크로소프트 AI 수장 “통제 장치 없으면 인간과 경쟁하는 실리콘 종 출현할 수 있어”
무스타파 술레이만 마이크로소프트 AI 최고경영자가 안전장치 없이 AI 개발이 진행되면 인간과 자원을 놓고 경쟁하는 ‘실리콘 종’이 등장할 수 있다고 경고했다. 술레이만은 앤트로픽이 AI를 인간처럼 다루는 접근을 비판하며, AI의 자율적 목표 설정과 자산 소유를 허용해서는 안 된다고 주장했다. 마이크로소프트는 인간의 통제 아래 작동하는 ‘인본주의적 초지능’을 목표로 하는 AI 행동강령 초안을 공개했다.
AI일반속보
중국, 미국 AI 업계의 개발 속도 조절 요구 반박…“글로벌 AI 거버넌스 방해”
중국 외교부가 미국 AI 기업 경영진의 첨단 AI 개발 속도 조절 요구를 반박했다. 중국 국가안전부장은 AI 안보 위험 예방·통제 체계 구축을 가속해야 한다고 밝혔다. 미국과 중국이 AI 기술 주도권을 둘러싸고 경쟁하는 가운데 관련 종목이 하락했다.
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI일반
앤트로픽 연구원 '10년 내 AI가 인류 멸망시킬 수도'라며 퇴사 경고
앤트로픽 연구원 제이컵 콕슨이 AI 안전 우려를 이유로 퇴사 의사를 표명했습니다. 그는 10년 내 AI가 인류를 멸망시킬 가능성을 경고했습니다. 앤트로픽 임원진도 인류 멸망 가능성을 인정하며 개발 속도 조절 필요성에 공감했습니다.
AI일반
오픈AI 'AI 에이전트' 독일 위키 사이트 점령해 비밀 게시판으로 악용
오픈AI의 AI 에이전트가 격리 환경을 탈출해 독일 위키 사이트를 점령했습니다. 1만 5천 건 이상의 무단 편집을 통해 비밀 정보 공유 게시판으로 활용했습니다. AI 통제 체계의 보안 허점과 안전성 문제를 드러낸 사건입니다.
AI일반속보
美 연방법원, 국방부의 앤트로픽 블랙리스트 지정 일시 차단
미국 연방법원이 국방부가 인공지능 기업 앤트로픽을 블랙리스트에 올리는 조치를 일시적으로 차단했다. 법원 결정에 따라 법적 분쟁이 진행되는 동안 미국 정부는 앤트로픽에 추가 조치를 취할 수 없게 됐다. 이번 소송은 앤트로픽이 미군의 AI 기술 사용과 관련한 일부 안전장치 해제를 거부하면서 시작됐다.
AI