기사 검색
일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI일반속보
美 연방법원, 국방부의 앤트로픽 블랙리스트 지정 일시 차단
미국 연방법원이 국방부가 인공지능 기업 앤트로픽을 블랙리스트에 올리는 조치를 일시적으로 차단했다. 법원 결정에 따라 법적 분쟁이 진행되는 동안 미국 정부는 앤트로픽에 추가 조치를 취할 수 없게 됐다. 이번 소송은 앤트로픽이 미군의 AI 기술 사용과 관련한 일부 안전장치 해제를 거부하면서 시작됐다.
AI