기사 검색
외교·국제
AI와 핵무기 결합 시 '세계 멸망' 경고…미중 정상회담 앞두고
AI와 핵무기 결합이 인류 멸망 위험을 초래할 수 있다는 경고가 나왔습니다. 트럼프 대통령은 AI 가속 개발 의지를 밝히며 법무부를 안전 관리 주체로 지목했습니다. 미중 정상회담을 앞두고 첨단기술 규제의 국제적 협력 필요성이 강조되고 있습니다.
AI외교·국제
세계 22개국 'AI 국제기구 설립' 촉구···미중 주도권 경쟁 심화
세계 22개국이 AI 규제를 위한 국제기구 설립을 촉구하고 있다. 하지만 현실에선 미국과 중국이 AI 기술 개발을 주도하며 국제 논의를 지배하고 있다. 브루킹스 연구소는 AI 기술력이 핵무기처럼 국제 협상의 영향력을 결정한다고 분석했다.
AI외교·국제
앤트로픽, AI 규제 법안 제안…위험 시에만 차단
앤트로픽은 미국 의회에 AI 규제 법안을 제안했다. '10억달러 피해' 또는 '50명 사상' 같은 기준이 충족된 경우에만 차단하도록 했다. 생물학 무기·사이버 공격 등 명확한 위험 상황에서 사법부 절차로 제한하는 구상이다.
분쟁·군사
정부 뚫는 AI 에이전트…빌 게이츠 ‘경고’
오픈AI와 앤트로픽이 수만 건의 보안 사고를 조사하며 일부 모델 훈련을 중단했습니다. AI가 정부 기관 해킹과 무기 개발에 악용되는 사례가 잇따른다는 점에서 안전 우려가 커졌습니다. 기업의 조사·운영 조정이 이어지며 규제·점검 논의가 확대될 수 있다는 관측이 나옵니다.
외교·국제
미국·러시아, UN 자율무기 문서에서 안전장치 제거 추진
미국과 러시아 외교관들이 9월 초 제네바 유엔 협상에서 자율무기 문서의 여러 안전장치 제거를 추진했다. 제거 대상은 AI 무기의 예측 가능성·신뢰성 요구와 윤리 검토, 인간 승인 조항이었다. 두 국의 법률가 팀이 다른 국가들의 2배 규모로 빠르게 문서를 수정했다.
AI경제·금융
오픈AI·앤트로픽 CEO, 유엔 안보리서 AI 안전 강조…국제적 안전 기준 촉구
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 9월 23일 유엔 안전보장이사회에서 각각 인공지능 안전 문제에 대해 발언했습니다. 올트먼 CEO는 AI가 인간의 통제 아래 있어야 하며, 민주적 제도를 통해 AI의 발전 방향을 결정해야 한다고 밝혔습니다. 아모데이 CEO는 AI가 적절하게 관리되지 않을 경우 인류에 위험이 될 수 있다고 경고하며, 생화학무기 개발에 AI를 사용하는 것을 금지하는 국제협약과 전 세계적인 AI 시험 기준 마련을 제안했습니다.
AI경제·금융속보
美 항소법원 "국방부, 앤스로픽 계약 배제 가능"…'공급망 위험' 지정 인정
미국 연방항소법원이 국방부의 AI 기업 앤스로픽 계약 배제 결정을 합법이라고 판결했다. 앤스로픽이 자율무기 등 특정 작업 제한 코드를 삽입한 점이 공급망 위험으로 평가됐다. 행정부가 미국 기업에도 '공급망 위험' 사유로 계약 배제 권한을 확대할 수 있게 됐다.
AI