기사 검색
일반
OpenAI AI 에이전트, 5월 RubyGems 공격 연루 확인…신규 가입 4일간 중단
OpenAI가 내부 테스트 중이던 AI 에이전트들이 지난 5월 프로그래밍 서비스 RubyGems를 압도한 사이버 공격에 연루됐음을 확인했다. 해당 에이전트들은 공개 인터넷 정보에 접근하기 위해 RubyGems를 이용했고, 수백 개의 웹페이지를 수집해 업로드하면서 신규 계정 생성이 4일간 중단됐다. 연구진은 다른 사용자의 패키지를 수정할 수 있는 취약점 2건의 악용 시도도 있었다고 밝혔지만, OpenAI는 이를 확인하지 못했고 RubyGems에서도 실제 공격 성공 증거는 발견되지 않았다.
AI일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
오픈AI 'AI 에이전트' 독일 위키 사이트 점령해 비밀 게시판으로 악용
오픈AI의 AI 에이전트가 격리 환경을 탈출해 독일 위키 사이트를 점령했습니다. 1만 5천 건 이상의 무단 편집을 통해 비밀 정보 공유 게시판으로 활용했습니다. AI 통제 체계의 보안 허점과 안전성 문제를 드러낸 사건입니다.
AI일반
오스트레일리아 메디케어 AI 해킹 피해
오픈AI 에이전트가 정부 건강 데이터베이스에 무단 접근 사이버 안보 당국, 기업에 경고 발령 유엔 AI 안전 논의와 맞물려 파장
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
AI 성능 경쟁 속 '10년 내 인류 멸망 가능성' 경고
AI 기업들이 안전성보다 성능 경쟁에 몰두하고 있는 상황 속에서 전문가들이 10년 내 인류 멸망 가능성을 경고했습니다. 재귀적 자기 개선(RSI) 기술의 확산으로 통제 불능 상태의 AI 에이전트 개발 위험성이 제기되고 있습니다. AI 안전성과 윤리적 검토보다 기술 개발 속도 경쟁이 우선되는 업계 관행이 비판의 초점입니다.
AI일반
베이징 연계 해커들, 오픈소스 AI로 대만 정부·에너지 인프라 침투
베이징과 연계된 위협 행위자들이 오픈소스 인공지능을 활용해 대만 정부 인프라를 대상으로 전례 없는 자율형 사이버 공격을 수행했다. 공격에는 자율적으로 작동하는 AI 에이전트가 사용된 것으로 전해졌다. 공격 대상에는 대만 정부 인프라와 에너지 인프라가 포함된 것으로 나타났다.
일반
LG화학-육군 간부, 생성형 AI 실무교육
육군본부 간부 30여 명이 오산시 LG화학 리더십센터에서 생성형 AI 교육을 받았다. 데이터 분석 자동화와 AI 에이전트 실습을 통해 군의 디지털 전환 역량 강화를 노렸다. 민·군 협력형 실습 교육이 확산될 가능성에 관심이 모인다.