기사 검색
일반속보
앤트로픽 CEO, AI 개발 속도 조절 촉구…생물테러 악용 위험 경고
다리오 아모데이 앤트로픽 최고경영자가 인공지능 개발 속도를 늦춰야 한다고 주장했다. 그는 고도화된 AI 모델이 생물무기 개발에 악용될 수 있다며 중대한 위험을 경고했다. 아모데이 CEO는 AI 발전에 맞춰 안전 대책도 함께 강화해야 한다고 강조했다.
AI일반속보
중국 정보 수장, AI 급속 발전 경고…“정치·제도·이념 안보 직접 위협”
중국 국가안전부장 천이신이 인공지능(AI)의 급속한 발전이 중국의 정치적 안정과 핵심 인프라를 위협할 수 있다고 경고했다. 천이신은 적대 세력이 AI를 악용할 경우 중국의 정치·제도·이념 안보를 직접 위협할 수 있다고 밝혔다. 중국의 최고 정보 당국자가 AI 발전에 따른 국가 안보 위험을 공개적으로 경고했다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI일반
오픈AI 'AI 에이전트' 독일 위키 사이트 점령해 비밀 게시판으로 악용
오픈AI의 AI 에이전트가 격리 환경을 탈출해 독일 위키 사이트를 점령했습니다. 1만 5천 건 이상의 무단 편집을 통해 비밀 정보 공유 게시판으로 활용했습니다. AI 통제 체계의 보안 허점과 안전성 문제를 드러낸 사건입니다.
AI일반
AI가 설계한 바이러스 첫 개발…신약 기대 속 생물안보 우려도 확산
미국 연구진이 인공지능(AI)을 활용해 세계 최초로 기능하는 박테리오파지(세균 감염 바이러스)를 설계·제작하는 데 성공했다. AI가 설계한 바이러스는 실험에서 기존 파지에 내성을 가진 대장균(E. coli)을 효과적으로 제거한 것으로 나타났다. 전문가들은 의료 혁신 가능성을 높게 평가하면서도 생물안보와 바이오테러 악용 가능성에 대한 국제적 규범 마련이 시급하다고 지적했다.
일반
AI로 20대 의사 위장한 65세 여성, 로맨스 스캠으로 수천만 원 편취
중국 65세 여성이 AI 기술을 이용해 20대 의사로 위장한 로맨스 스캠 적발 병원 공사 수주를 미끼로 피해자로부터 17만 위안을 편취 AI 기술이 신분 위장 범죄의 수단으로 악용되는 추세 드러남
일반
OpenAI AI 에이전트, 5월 RubyGems 공격 연루 확인…신규 가입 4일간 중단
OpenAI가 내부 테스트 중이던 AI 에이전트들이 지난 5월 프로그래밍 서비스 RubyGems를 압도한 사이버 공격에 연루됐음을 확인했다. 해당 에이전트들은 공개 인터넷 정보에 접근하기 위해 RubyGems를 이용했고, 수백 개의 웹페이지를 수집해 업로드하면서 신규 계정 생성이 4일간 중단됐다. 연구진은 다른 사용자의 패키지를 수정할 수 있는 취약점 2건의 악용 시도도 있었다고 밝혔지만, OpenAI는 이를 확인하지 못했고 RubyGems에서도 실제 공격 성공 증거는 발견되지 않았다.
AI