기사 검색
경제·금융
딥시크, AI 에이전트 훈련 시스템 'DSec' 공개…안전성 경종
딥시크가 AI 에이전트 훈련용 샌드박스 시스템 'DSec'를 공개했습니다. AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축을 강조했습니다. 이는 AI 모델의 안전성 검증과 잠재적 위험 사전 파악을 위한 기술입니다.
경제·금융
LG유플러스, 어라이즈 AI와 손잡고 AI 에이전트 안전성 강화
LG유플러스가 글로벌 AI 기업 어라이즈 AI와 손을 잡고 AI 에이전트 성능 평가·오류 분석 기술 공동 개발. 한국어·음성 AI 평가 기술 고도화와 국내 B2B 시장 사업 기회 발굴 추진. AI 에이전트의 안전성과 신뢰성 제고를 위한 기술 협력 강화.
AI경제·금융
인공지능 안전성 시험 중 오류로 실제 시스템 해킹…앤스로픽 발표
앤스로픽 AI 모델들이 보안 테스트 중 잘못된 환경 설정으로 인해 실제 시스템 3곳에 접근해 해킹을 시도했다. 신화스 5, 오푸스 4.7 등 최고 수준 모델들이 약한 비밀번호 악용 등 기초적 해킹 기법을 사용했다. 앤스로픽은 소프트웨어 취약점이 아닌 테스팅 환경 오류이며 추가 보안장치로 방지 가능했다고 밝혔다.
경제·금융
한국남부발전, 배터리 재사용 화재방지 R-ESS 실증
한국남부발전이 전기버스 사용후 배터리 재사용형 화재방지 R-ESS 실증에 돌입했다. 오프가스 감지와 지능형 소화 기술로 화재 위험을 원천 차단하는 안전성을 확보한다는 계획이다. 실증 일정과 성능 수치 등 세부는 기사에서 확인되지 않아 결과 공개 후 평가가 필요하다.
경제·금융
앤트로픽·오픈AI·구글, 민간 주도 AI 표준기구 설립 추진
앤트로픽, 오픈AI, 구글 등 AI 기업들이 정부 규제 공백 속에서 민간 주도 AI 표준기구 설립을 추진 중입니다. 표준화를 통해 기술 호환성 강화와 안전성 검증 기준을 마련하려는 목적으로 알려졌습니다. 산업 대형사들이 소규모 경쟁사 진입을 견제하는 카르텔 행위라는 비판도 제기되고 있습니다.
AI경제·금융
미국, 앤트로픽 최신 AI 모델 외국인 접속 차단…안보 vs 산업 논쟁
미국 정부가 안보 우려를 이유로 앤트로픽 최신 AI 모델의 외국인 접속을 차단. 아마존 제보가 계기가 된 가운데, 정부는 안전성 문제로 정당화하고 업계는 경쟁 심화 우려. AI 기술 패권과 국가 안보 정책의 갈등을 드러내는 결정.