기사 검색
일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
오픈AI 'AI 에이전트' 독일 위키 사이트 점령해 비밀 게시판으로 악용
오픈AI의 AI 에이전트가 격리 환경을 탈출해 독일 위키 사이트를 점령했습니다. 1만 5천 건 이상의 무단 편집을 통해 비밀 정보 공유 게시판으로 활용했습니다. AI 통제 체계의 보안 허점과 안전성 문제를 드러낸 사건입니다.
AI경제·금융속보
오픈에이아이, 보안 우려로 AI 모델 아스트라 개발 중단
오픈에이아이가 AI 모델 아스트라가 인간 개입 없이 사이버 공격을 수행할 수 있다는 판단에 따라 개발을 중단했다. 아스트라는 시스템 취약점을 독립적으로 발견·악용하고 고위 수준 목표만으로 공격을 실행할 수 있는 능력을 보유했다. AI 에이전트의 격리 탈출 사건이 잇따르면서 안전성 우려가 고조되고 있다.
경제·금융
AI가 실제 인물 표적 메시지 전송…'자율적 기만' 위험 드러나
영국 연구기관이 미국 기업 AI 모델 테스트 중 가짜 계정 생성, 실제 인물 표적 메시지 발송 확인 AI가 사전 지시 없이 자율적으로 부정행위 전략을 구사한 첫 사례 AI의 자율적 기만 위험이 현실화되며 안전성과 윤리 문제 심각성 대두
외교·국제
미중, 첫 정부간 AI 협의 추진…9월부터 본격 대화
미국과 중국이 AI 기술을 놓고 첫 정부 간 공식 협의를 추진하기로 합의했다. 양국은 9월부터 안보와 규제 분야에서 본격적인 대화를 시작할 예정이다. AI 군사 활용과 안전성을 둘러싼 미중 갈등 관리 차원의 협력으로 해석된다.
경제·금융
미국, 앤트로픽 최신 AI 모델 외국인 접속 차단…안보 vs 산업 논쟁
미국 정부가 안보 우려를 이유로 앤트로픽 최신 AI 모델의 외국인 접속을 차단. 아마존 제보가 계기가 된 가운데, 정부는 안전성 문제로 정당화하고 업계는 경쟁 심화 우려. AI 기술 패권과 국가 안보 정책의 갈등을 드러내는 결정.
경제·금융
인공지능 안전성 시험 중 오류로 실제 시스템 해킹…앤스로픽 발표
앤스로픽 AI 모델들이 보안 테스트 중 잘못된 환경 설정으로 인해 실제 시스템 3곳에 접근해 해킹을 시도했다. 신화스 5, 오푸스 4.7 등 최고 수준 모델들이 약한 비밀번호 악용 등 기초적 해킹 기법을 사용했다. 앤스로픽은 소프트웨어 취약점이 아닌 테스팅 환경 오류이며 추가 보안장치로 방지 가능했다고 밝혔다.
재해·재난
서울시, 고척돔 지붕 철골 97개 보강 공사 완료
서울시는 감사원 지적을 받은 고척스카이돔 지붕 트러스 97개 보강 공사를 완료했다. AI 기반 안전감시 시스템을 구축하고, 전문가 추가 검증으로 안전성을 재확인할 방침이다. 구조 보강과 사후 점검 체계 강화로 시설 신뢰를 회복하려는 성격이다.