기사 검색
일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
얼굴 사진으로 암 생존 확률 예측하는 AI 개발
얼굴 사진 한 장으로 암 환자 생존 확률을 예측하는 AI가 개발됐다. 4,000만 장 이상 얼굴 이미지를 학습했고, 90일 이내 사망 위험을 산출해 고위험군·저위험군으로 나눈다. 임상 적용을 위해 정확도와 편향 등 검증이 중요하다는 전망이 나온다.
일반속보
앤트로픽 CEO, AI 개발 속도 조절 촉구…생물테러 악용 위험 경고
다리오 아모데이 앤트로픽 최고경영자가 인공지능 개발 속도를 늦춰야 한다고 주장했다. 그는 고도화된 AI 모델이 생물무기 개발에 악용될 수 있다며 중대한 위험을 경고했다. 아모데이 CEO는 AI 발전에 맞춰 안전 대책도 함께 강화해야 한다고 강조했다.
AI일반속보
중국, 미국 AI 업계의 개발 속도 조절 요구 반박…“글로벌 AI 거버넌스 방해”
중국 외교부가 미국 AI 기업 경영진의 첨단 AI 개발 속도 조절 요구를 반박했다. 중국 국가안전부장은 AI 안보 위험 예방·통제 체계 구축을 가속해야 한다고 밝혔다. 미국과 중국이 AI 기술 주도권을 둘러싸고 경쟁하는 가운데 관련 종목이 하락했다.
AI일반
AI가 설계한 바이러스 첫 개발…신약 기대 속 생물안보 우려도 확산
미국 연구진이 인공지능(AI)을 활용해 세계 최초로 기능하는 박테리오파지(세균 감염 바이러스)를 설계·제작하는 데 성공했다. AI가 설계한 바이러스는 실험에서 기존 파지에 내성을 가진 대장균(E. coli)을 효과적으로 제거한 것으로 나타났다. 전문가들은 의료 혁신 가능성을 높게 평가하면서도 생물안보와 바이오테러 악용 가능성에 대한 국제적 규범 마련이 시급하다고 지적했다.
일반
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
오픈AI가 AI 모델 개발 초기부터 외부 기관의 안전성 검증을 허용하기로 결정했습니다. 훈련부터 배포까지 제3자 기관이 전 과정에 참여해 기술적 안전성을 평가합니다. AI 재앙적 피해 우려가 커지는 상황에서 독립적 검증 체계를 강화하는 조치입니다.
일반
포항공대, AI로 면역항암제 효과 미리 예측하는 기술 개발
포항공대가 종양 미세환경의 노화 세포를 분석하는 AI 기술로 면역항암제 치료 효과를 미리 예측하는 방법을 개발했다. 기존 지표보다 높은 예측 성능을 보여 환자들이 자신에게 맞는 치료법을 선택할 수 있게 될 전망이다. 이를 통해 불필요한 치료를 줄이고 의료 자원 배분을 효율화할 수 있을 것으로 기대된다.
AI일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
美 보안업체, AI로 위챗 계정 수억개 노리는 ‘제로클릭 웜’ 개발
미국 보안업체 칼리프의 소규모 연구팀이 AI 모델을 활용해 수억 개의 위챗 계정을 수시간 내 장악할 수 있는 컴퓨터 웜을 개발한 것으로 전해졌다. ‘위웜(WeWorm)’으로 명명된 이 웜은 사용자가 클릭하거나 화면을 터치하지 않아도 자동으로 확산할 수 있는 것으로 설명됐다. 위챗의 연락처 신뢰 시스템을 이용해 iOS와 안드로이드 운영체제 모두에서 계정을 침해하고 확산하는 방식으로 알려졌다.
AI일반
서울 관악구, 자체 개발 'AI 행정 혁신 플랫폼' 가동
서울 관악구가 외부 예산 없이 직원 역량으로 'AI 마당' 플랫폼을 개발·운영 시작 직원 간 AI 실무 역량 공유 및 역량 강화가 플랫폼의 주요 목표 향후 대민 서비스까지 활용 범위를 확대할 계획
AI일반
이스라엘, 뇌졸중 재활용 AR 안경 개발…AI·전기자극 결합
이스라엘 클랄릿 보건서비스가 AR 안경·AI·전기자극을 결합한 신경재활 기술 개발 뇌졸중·뇌손상 환자의 운동·인지 기능 회복 촉진을 목표로 임상 평가 진행 중 성공 시 신경학적 재활 분야의 혁신적 치료법으로 자리잡을 전망
일반
미국 성인 63% 'AI 통제 불능 시 인류 멸망 가능'
미국 성인 10명 중 6명 이상이 통제 불능 AI로 인한 인류 멸망 가능성을 우려 해리스 지지자 70%, 트럼프 지지자 61%가 AI 위험성 경고 AI 개발 속도 조절에 대해 초당적 공감대 형성
AI일반
AI 성능 경쟁 속 '10년 내 인류 멸망 가능성' 경고
AI 기업들이 안전성보다 성능 경쟁에 몰두하고 있는 상황 속에서 전문가들이 10년 내 인류 멸망 가능성을 경고했습니다. 재귀적 자기 개선(RSI) 기술의 확산으로 통제 불능 상태의 AI 에이전트 개발 위험성이 제기되고 있습니다. AI 안전성과 윤리적 검토보다 기술 개발 속도 경쟁이 우선되는 업계 관행이 비판의 초점입니다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI일반
AI 기업 수장들, 유엔 안보리에 규제 촉구…미국은 글로벌 통제 반대
주요 인공지능 기업 최고경영자들이 인공지능이 인류에 위험을 초래할 수 있다며 유엔 안전보장이사회에 국제적 안전장치 마련을 촉구했다. 샘 올트먼과 다리오 아모데이는 인공지능의 통제 상실 가능성을 경고하며 국제적 공통 기준과 규제가 필요하다고 주장했다. 미국은 인공지능 개발을 제한하는 새로운 글로벌 거버넌스 체계에 반대하며 기술 발전의 혜택을 동맹 및 협력국과 공유해야 한다고 밝혔다.
AI일반
행안부, AI로 국정ON 생방송 모니터링 혁신
행안부 공무원이 생성형 AI 도구 '국정ON'을 개발했다. 국회와 국무회의 생방송을 실시간 모니터링하도록 했으며 '바이브 코딩' 방식이 활용됐다. 반복 업무를 줄여 정책 검토와 판단 등 핵심 업무에 집중하는 환경을 만들었다.
AI일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
일반
AI ‘지능 폭발’ 경고…통제 실패 우려
AI 개발 자동화로 지능 폭발 가능성이 제기됐다. 주요 AI 연구자 22명은 통제 실패 시 인류 멸망 우려를 경고했다. 기업 대상 상주 감시관 배치 같은 강력한 통제 장치 마련을 촉구했다.
일반
마이크로소프트 AI 수장 “통제 장치 없으면 인간과 경쟁하는 실리콘 종 출현할 수 있어”
무스타파 술레이만 마이크로소프트 AI 최고경영자가 안전장치 없이 AI 개발이 진행되면 인간과 자원을 놓고 경쟁하는 ‘실리콘 종’이 등장할 수 있다고 경고했다. 술레이만은 앤트로픽이 AI를 인간처럼 다루는 접근을 비판하며, AI의 자율적 목표 설정과 자산 소유를 허용해서는 안 된다고 주장했다. 마이크로소프트는 인간의 통제 아래 작동하는 ‘인본주의적 초지능’을 목표로 하는 AI 행동강령 초안을 공개했다.
AI