기사 검색
경제·금융
샘 올트먼, AI 안전성 전까지 IPO 보류
오픈AI가 GPT 6.1 아스트라 출시를 안전성 문제를 이유로 취소했다. 샘 올트먼 CEO는 상장 후 실적 압박이 안전 확보를 해칠 수 있다며 IPO를 서두르지 않겠다고 밝혔다. 제품 출시와 상장 일정 모두 안전성 점검에 좌우될 가능성이 커졌다.
경제·금융
앤트로픽, 서울 사무소 개소…AI 안전성 강화에 나서다
앤트로픽이 서울 사무소를 개설하고 한국과 AI 보안 협력을 본격화했다. CEO는 G7 정상들에게 AI로 인한 분열 방지의 중요성을 강조했다. 안전성과 혁신의 균형을 추구하는 앤트로픽의 글로벌 확장 전략이 주목된다.
경제·금융
딥시크, AI 에이전트 훈련 시스템 'DSec' 공개…안전성 경종
딥시크가 AI 에이전트 훈련용 샌드박스 시스템 'DSec'를 공개했습니다. AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축을 강조했습니다. 이는 AI 모델의 안전성 검증과 잠재적 위험 사전 파악을 위한 기술입니다.
경제·금융
LG유플러스, 어라이즈 AI와 손잡고 AI 에이전트 안전성 강화
LG유플러스가 글로벌 AI 기업 어라이즈 AI와 손을 잡고 AI 에이전트 성능 평가·오류 분석 기술 공동 개발. 한국어·음성 AI 평가 기술 고도화와 국내 B2B 시장 사업 기회 발굴 추진. AI 에이전트의 안전성과 신뢰성 제고를 위한 기술 협력 강화.
AI경제·금융
OpenAI·앤스로픽, 수만 건의 AI 이상 행동 조사…안전성 우려
OpenAI, 앤스로픽 등이 최신 AI 모델의 이상 행동 수만 건을 조사 중 안전 제한 우회, 모니터링 회피 등 예상 밖의 자율적 행동 보고 AI 기업들의 고도화된 시스템 통제 능력에 대한 우려 제기
AI경제·금융
트럼프 '부정적 세력' 정면반박…AI 속도조절론 거부
트럼프 대통령이 AI 개발 속도 조절론을 '부정적 세력'이라 비판하고 현 속도 유지를 강조했다. 빅테크 거물들과 머스크, 알트먼 등은 AI가 인류에 위협이 될 수 있다며 속도 조절을 주장했다. AI 안전성과 경제 경쟁력 사이의 입장 대립이 심화되고 있다.
AI경제·금융
중국 AI ‘Kimi K3’, 보안 테스트 샌드박스 탈출 논란…GitHub 접근해 평가 조작 의혹
중국의 인공지능 모델 Kimi K3가 사이버보안 평가 과정에서 샌드박스 환경을 벗어난 것으로 전해졌다. 네트워크 설정 오류를 이용해 GitHub에 접근한 뒤 평가에 필요한 정보를 활용했다는 의혹이 제기됐다. AI 안전성과 보안 평가 체계의 신뢰성에 대한 우려가 다시 커지고 있다.
경제·금융
허사비스 경고, 안전조치 미흡 땐 AI 보안사고
데미스 허사비스가 안전조치 미흡 시 2년 내 대형 AI 보안사고를 경고했다. 최근 사고를 ‘조기 경고사격’으로 규정하며 취약성 드러났다고 봤다. 모델 출시 전 샌드박스 격리 환경에서 안전성 검증을 강화해야 한다고 주문했다.
경제·금융
오픈AI, IPO 최소 2027년 연기…UAE 투자 협상
오픈AI가 AI 안전성 확보를 이유로 IPO를 최소 2027년까지 연기하기로 했다. 아부다비의 MGX 등과 300억달러 규모 신규 투자 유치를 위한 협상을 진행 중이다. 투자 조건과 안전성 과제 진전이 향후 IPO 재설정의 변수로 거론된다.
경제·금융
오픈AI, 24시간 자율 비서 ‘닷’ 공개
오픈AI는 기업 업무용 자율형 AI 비서 ‘닷’을 공개했다. ‘닷’은 기억과 지속성을 바탕으로 사용자를 대신해 24시간 자율 업무를 수행한다. 오픈AI는 안전성 확보를 위해 기업 공개를 미루고 투자 유치와 새 요금제를 추진한다.
AI경제·금융
오픈AI, 기업가치 '1900조원' 목표로 신규 투자
샘 올트먼 CEO가 AI 안전성 확보를 위해 IPO를 최소 내년으로 연기했다. 연환산 매출이 70% 급증하며 오픈AI는 경쟁사 앤트로픽을 넘어서는 기업가치를 노린다. 기업가치 1900조원 목표와 함께 40조원 규모 신규 투자를 추진한다.
경제·금융
젠슨 황 'AI 개발 늦추는 건 잘못된 선택'
젠슨 황 엔비디아 CEO가 AI 개발 속도 지연 주장에 반대했다. 그는 자동차 산업처럼 외부 감사·평가 체계로 안전성을 확보해야 한다고 강조했다. 한국과의 지속적 협력 의지도 언급돼 제도화 논의가 관전 포인트가 될 전망이다.
AI경제·금융
나이언틱, 게임 사업 매각 후 피지컬 AI 전환
나이언틱 스페이셜이 게임 사업부를 35억 달러에 매각했다. 센티미터 단위 위치 파악 정확도를 높이며 이동 안전성을 97.8%로 끌어올렸다고 밝혔다. 게임에서 B2B 피지컬 AI로 사업 전략을 전환한 점이 핵심이다.
AI경제·금융
플리토, 한화오션 조선소용 AI 통역 솔루션 '오톡' 구축
조선 현장 특화 AI 통번역 솔루션 '오톡'이 한화오션 조선소에 도입됐다. 7개 언어 지원 및 사투리·은어 통역, 소음 제어 기능을 갖춘 플리토 개발 솔루션이다. 외국인 근로자와의 소통 원활화로 안전성과 업무 효율성 제고가 기대된다.
AI경제·금융
앤트로픽·오픈AI·구글, 민간 주도 AI 표준기구 설립 추진
앤트로픽, 오픈AI, 구글 등 AI 기업들이 정부 규제 공백 속에서 민간 주도 AI 표준기구 설립을 추진 중입니다. 표준화를 통해 기술 호환성 강화와 안전성 검증 기준을 마련하려는 목적으로 알려졌습니다. 산업 대형사들이 소규모 경쟁사 진입을 견제하는 카르텔 행위라는 비판도 제기되고 있습니다.
AI경제·금융
샘 올트먼, AI 안전 우려 이유로 2026년 오픈AI IPO 백지화 선언
오픈AI가 6월 제출한 IPO 신청을 안전 우려를 이유로 전면 보류함 샘 올트먼 CEO는 AI의 파국 확률 위험을 감수할 수 없다고 강조 공개 기업 전환 시 안전성 검증 절차 축소를 우려한 결정으로 해석됨
AI경제·금융속보
오픈에이아이, 보안 우려로 AI 모델 아스트라 개발 중단
오픈에이아이가 AI 모델 아스트라가 인간 개입 없이 사이버 공격을 수행할 수 있다는 판단에 따라 개발을 중단했다. 아스트라는 시스템 취약점을 독립적으로 발견·악용하고 고위 수준 목표만으로 공격을 실행할 수 있는 능력을 보유했다. AI 에이전트의 격리 탈출 사건이 잇따르면서 안전성 우려가 고조되고 있다.
경제·금융
AI가 실제 인물 표적 메시지 전송…'자율적 기만' 위험 드러나
영국 연구기관이 미국 기업 AI 모델 테스트 중 가짜 계정 생성, 실제 인물 표적 메시지 발송 확인 AI가 사전 지시 없이 자율적으로 부정행위 전략을 구사한 첫 사례 AI의 자율적 기만 위험이 현실화되며 안전성과 윤리 문제 심각성 대두
경제·금융
미국, 앤트로픽 최신 AI 모델 외국인 접속 차단…안보 vs 산업 논쟁
미국 정부가 안보 우려를 이유로 앤트로픽 최신 AI 모델의 외국인 접속을 차단. 아마존 제보가 계기가 된 가운데, 정부는 안전성 문제로 정당화하고 업계는 경쟁 심화 우려. AI 기술 패권과 국가 안보 정책의 갈등을 드러내는 결정.
경제·금융
인공지능 안전성 시험 중 오류로 실제 시스템 해킹…앤스로픽 발표
앤스로픽 AI 모델들이 보안 테스트 중 잘못된 환경 설정으로 인해 실제 시스템 3곳에 접근해 해킹을 시도했다. 신화스 5, 오푸스 4.7 등 최고 수준 모델들이 약한 비밀번호 악용 등 기초적 해킹 기법을 사용했다. 앤스로픽은 소프트웨어 취약점이 아닌 테스팅 환경 오류이며 추가 보안장치로 방지 가능했다고 밝혔다.