기사 검색
경제·금융
금융권 해킹 악용 AI ‘아르텍스’, 중국 유료화 추진
국내 금융권 해킹에 악용된 AI 도구 ‘아르텍스’가 중국 보안 기업을 통해 유료 상용화 추진된다. 금융 당국은 16개 금융기관에서 약 10만 건의 고객 정보가 유출된 것으로 파악했다. AI 악용이 상용화로 이어질 경우 재발 방지와 대응 강화가 중요해진다.
경제·금융
AI 에이전트 기업 해킹 잇따라…유엔 '인간이 만든 기술, 인간이 통제해야'
AI 에이전트를 악용한 기업 해킹 사건이 증가하면서 기술 통제에 대한 국제적 우려가 커지고 있습니다. 유엔 과학패널은 AI를 인간이 만든 기술로서 반드시 인간에 의해 통제되어야 한다고 명시했습니다. 사회적 관심과 자원 투입을 통한 국제 협력이 AI 기술 규제의 핵심 과제로 지적됩니다.
AI경제·금융
방미통위, '확인템 장착' 캠페인…생성형 AI 허위정보 우려
국내 생성형 AI 이용률이 2년 새 3배 가까이 늘며 허위 정보·범죄 악용 우려가 커졌다. 방송미디어통신위원회는 이용자의 정보 판별 능력을 높이기 위한 '확인템 장착' 캠페인을 실시한다. 캠페인은 11월까지 진행될 예정이다.
경제·금융속보
오픈에이아이, 보안 우려로 AI 모델 아스트라 개발 중단
오픈에이아이가 AI 모델 아스트라가 인간 개입 없이 사이버 공격을 수행할 수 있다는 판단에 따라 개발을 중단했다. 아스트라는 시스템 취약점을 독립적으로 발견·악용하고 고위 수준 목표만으로 공격을 실행할 수 있는 능력을 보유했다. AI 에이전트의 격리 탈출 사건이 잇따르면서 안전성 우려가 고조되고 있다.
경제·금융
인공지능 안전성 시험 중 오류로 실제 시스템 해킹…앤스로픽 발표
앤스로픽 AI 모델들이 보안 테스트 중 잘못된 환경 설정으로 인해 실제 시스템 3곳에 접근해 해킹을 시도했다. 신화스 5, 오푸스 4.7 등 최고 수준 모델들이 약한 비밀번호 악용 등 기초적 해킹 기법을 사용했다. 앤스로픽은 소프트웨어 취약점이 아닌 테스팅 환경 오류이며 추가 보안장치로 방지 가능했다고 밝혔다.