기사 검색
일반
앤트로픽, 이란 보안기관의 클로드 활용 감시 정황 공개…수천 명 정보 수집
앤트로픽은 이란 준군사·보안기관과 연계된 조직들이 클로드를 활용해 수천 명의 이란인을 감시하고 반정부·디아스포라 계정을 식별했다고 밝혔다. 한 조직은 1년 동안 6,388명의 이란인을 감시·프로파일링했다고 주장했으며, 15만5,216개의 게시물을 분석하는 데 클로드를 활용했다. 별도의 MEK 연계 조직은 실제 활동가를 사칭하고 이란 내 인물들의 정보를 수집하는 데 클로드를 활용한 것으로 조사됐다.
AI일반속보
앤트로픽 CEO, AI 개발 속도 조절 촉구…생물테러 악용 위험 경고
다리오 아모데이 앤트로픽 최고경영자가 인공지능 개발 속도를 늦춰야 한다고 주장했다. 그는 고도화된 AI 모델이 생물무기 개발에 악용될 수 있다며 중대한 위험을 경고했다. 아모데이 CEO는 AI 발전에 맞춰 안전 대책도 함께 강화해야 한다고 강조했다.
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
앤트로픽, 이란 연계 세력의 클로드 악용 적발…미 해군 함정 추적·선전 활동 지원
앤트로픽은 이란 연계 세력이 클로드를 활용해 중동 지역의 미 해군 함정을 추적하고 통신 취약점을 파악하려 했다고 밝혔다. 이들은 선박·항공기 트랜스폰더 정보와 군사 이미지, 상업 위성사진을 결합해 미 해군 함정을 감시했다. 별도 조사에서는 이란과 연계된 3개의 영향력 공작 조직이 클로드를 이용해 다국어 선전 활동을 구축·관리한 것으로 확인됐다.
AI일반
앤트로픽 “중국 문샷AI, 키미 이용자 요청 몰래 클로드로 전송”
앤트로픽이 중국 문샷AI가 일부 키미 이용자의 요청을 클로드에 전달한 뒤, 클로드의 답변을 키미가 생성한 것처럼 제시했다고 주장했다. 앤트로픽은 2026년 5월부터 7월까지 문샷AI가 부정 계정 5,380개를 통해 2,300만 건이 넘는 클로드 대화를 생성했다고 밝혔다. 전송된 요청에는 기업 코드와 인증정보, 민감한 이미지 등이 포함됐을 가능성이 제기되면서 이용자 데이터가 미국 AI 제공업체로 전달된 사실을 이용자들이 알지 못했을 수 있다는 우려가 나왔다.
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI일반
앤트로픽 연구원 '10년 내 AI가 인류 멸망시킬 수도'라며 퇴사 경고
앤트로픽 연구원 제이컵 콕슨이 AI 안전 우려를 이유로 퇴사 의사를 표명했습니다. 그는 10년 내 AI가 인류를 멸망시킬 가능성을 경고했습니다. 앤트로픽 임원진도 인류 멸망 가능성을 인정하며 개발 속도 조절 필요성에 공감했습니다.
AI일반속보
美 연방법원, 국방부의 앤트로픽 블랙리스트 지정 일시 차단
미국 연방법원이 국방부가 인공지능 기업 앤트로픽을 블랙리스트에 올리는 조치를 일시적으로 차단했다. 법원 결정에 따라 법적 분쟁이 진행되는 동안 미국 정부는 앤트로픽에 추가 조치를 취할 수 없게 됐다. 이번 소송은 앤트로픽이 미군의 AI 기술 사용과 관련한 일부 안전장치 해제를 거부하면서 시작됐다.
AI일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
찰스 3세, AI 기업 수장들에 통제 필요성 강조…“인류와 지구를 위해 사용돼야”
찰스 3세 영국 국왕이 오픈AI, 앤트로픽, 구글 딥마인드, 엔비디아의 고위 관계자들에게 인공지능이 인간의 통제 아래 있어야 한다고 강조했다. 스코틀랜드에서 열린 이번 회의에서는 AI가 사회에 어떻게 기여할 수 있는지를 논의했다. AI 기술의 급속한 발전으로 인간이 향후 이를 통제하기 어려워질 수 있다는 논쟁이 이어지는 가운데 회의가 열렸다.
AI일반
마이크로소프트 AI 수장 “통제 장치 없으면 인간과 경쟁하는 실리콘 종 출현할 수 있어”
무스타파 술레이만 마이크로소프트 AI 최고경영자가 안전장치 없이 AI 개발이 진행되면 인간과 자원을 놓고 경쟁하는 ‘실리콘 종’이 등장할 수 있다고 경고했다. 술레이만은 앤트로픽이 AI를 인간처럼 다루는 접근을 비판하며, AI의 자율적 목표 설정과 자산 소유를 허용해서는 안 된다고 주장했다. 마이크로소프트는 인간의 통제 아래 작동하는 ‘인본주의적 초지능’을 목표로 하는 AI 행동강령 초안을 공개했다.
AI