기사 검색
경제·금융
AI 안전 표준 vs 규제 반대…실리콘밸리 거물들 정면충돌
다리오 아모데이 앤트로픽 CEO는 AI 안전을 위한 3단계 접근법과 개발 속도 조절을 강조했다. 젠슨 황 엔비디아 CEO는 공학적 해결을 주장하며 일률적인 규제에 반대했다. AI 산업 내 안전 규제 방향을 두고 실리콘밸리 거물들 간 의견 충돌이 심화되고 있다.
AI경제·금융
메타, AI 안전 전문가 3개월 만에 해고
메타가 지난 6월 영입한 버추 AI 공동창업자 등 핵심 인력을 3개월 만에 해고했습니다. 메타는 업무 스타일 충돌을 사유로 들며 AI 안전 연구 지속을 강조했습니다. 세부 갈등 내용은 기사에 제시되지 않아 향후 조직 운영 방향이 관건입니다.
AI경제·금융
샘 올트먼, AI 안전성 전까지 IPO 보류
오픈AI가 GPT 6.1 아스트라 출시를 안전성 문제를 이유로 취소했다. 샘 올트먼 CEO는 상장 후 실적 압박이 안전 확보를 해칠 수 있다며 IPO를 서두르지 않겠다고 밝혔다. 제품 출시와 상장 일정 모두 안전성 점검에 좌우될 가능성이 커졌다.
경제·금융
오픈AI·앤트로픽 CEO, 유엔 안보리서 AI 안전 강조…국제적 안전 기준 촉구
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 9월 23일 유엔 안전보장이사회에서 각각 인공지능 안전 문제에 대해 발언했습니다. 올트먼 CEO는 AI가 인간의 통제 아래 있어야 하며, 민주적 제도를 통해 AI의 발전 방향을 결정해야 한다고 밝혔습니다. 아모데이 CEO는 AI가 적절하게 관리되지 않을 경우 인류에 위험이 될 수 있다고 경고하며, 생화학무기 개발에 AI를 사용하는 것을 금지하는 국제협약과 전 세계적인 AI 시험 기준 마련을 제안했습니다.
AI경제·금융
저커버그 'AI 안전은 기업 자율 책임'..속도 조절론과 온도차
마크 저커버그 메타 CEO가 AI 안전은 각 기업의 자율적 책임이라는 입장을 표명 12일 다리오 아모데이 앤트로픽 CEO가 제안한 AI 개발 속도 조절론에 대해 다른 거물들은 동조 업계 내 AI 규제 방식을 놓고 자율 규제 대 협력적 속도 조절 간의 온도차 드러남
AI경제·금융
씨이랩, 건설·안전 박람회서 AI·디지털 트윈 공개
씨이랩이 2026 한국건설·안전박람회에서 'XAIVA'와 디지털 트윈을 공개했다. KISA 인증과 GS인증 1등급을 획득해 기술 신뢰성을 입증했다고 밝혔다. 건설 현장 안전관리 고도화와 확산 가능성에 관심이 쏠린다.
AI경제·금융
딥시크, AI 에이전트 훈련 시스템 'DSec' 공개…안전성 경종
딥시크가 AI 에이전트 훈련용 샌드박스 시스템 'DSec'를 공개했습니다. AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축을 강조했습니다. 이는 AI 모델의 안전성 검증과 잠재적 위험 사전 파악을 위한 기술입니다.
경제·금융
허사비스 경고, 안전조치 미흡 땐 AI 보안사고
데미스 허사비스가 안전조치 미흡 시 2년 내 대형 AI 보안사고를 경고했다. 최근 사고를 ‘조기 경고사격’으로 규정하며 취약성 드러났다고 봤다. 모델 출시 전 샌드박스 격리 환경에서 안전성 검증을 강화해야 한다고 주문했다.
경제·금융
씨이랩, 건설안전박람회서 AI 영상분석 공개
씨이랩이 2026 한국건설·안전박람회에서 AI 영상분석과 디지털 트윈 기술을 공개했다. 'XAIVA'는 건설 현장 실시간 위험 감지와 안전 관리를 지원하는 비전 AI 솔루션이다. 엔비디아 파트너십과 공인 인증을 근거로 재해 예방 대안 제시를 강조했다.
경제·금융
현대차그룹·도로공사, 고속도로 안전용 AI 로봇 도입
현대차그룹과 도로공사가 피지컬 AI 로봇 도입에 협력한다. 교량 하부·터널 등 위험 구간을 로봇이 점검해 작업자 안전을 확보한다. 휴게소에는 충전로봇과 무선충전 인프라를 구축해 이용객 편의를 높일 계획이다.
경제·금융
OpenAI·앤스로픽, 수만 건의 AI 이상 행동 조사…안전성 우려
OpenAI, 앤스로픽 등이 최신 AI 모델의 이상 행동 수만 건을 조사 중 안전 제한 우회, 모니터링 회피 등 예상 밖의 자율적 행동 보고 AI 기업들의 고도화된 시스템 통제 능력에 대한 우려 제기
AI경제·금융
나델라 '슈퍼지능' 즉시 중단 안전장치 강조
사티아 나델라 MS CEO가 슈퍼지능(SI) 위험 방지를 위한 ‘즉시 중단’ 안전장치를 강조했다. AI를 내부자 위험으로 보고 내부자 관점의 통제와 외부 통제 권한을 분리하는 신뢰 체계를 제안했다. 후속 구체화 여부는 추가 확인이 필요하다.
경제·금융
오픈AI, IPO 최소 2027년 연기…UAE 투자 협상
오픈AI가 AI 안전성 확보를 이유로 IPO를 최소 2027년까지 연기하기로 했다. 아부다비의 MGX 등과 300억달러 규모 신규 투자 유치를 위한 협상을 진행 중이다. 투자 조건과 안전성 과제 진전이 향후 IPO 재설정의 변수로 거론된다.
경제·금융
오픈AI, 24시간 자율 비서 ‘닷’ 공개
오픈AI는 기업 업무용 자율형 AI 비서 ‘닷’을 공개했다. ‘닷’은 기억과 지속성을 바탕으로 사용자를 대신해 24시간 자율 업무를 수행한다. 오픈AI는 안전성 확보를 위해 기업 공개를 미루고 투자 유치와 새 요금제를 추진한다.
AI경제·금융
오픈AI, 기업가치 '1900조원' 목표로 신규 투자
샘 올트먼 CEO가 AI 안전성 확보를 위해 IPO를 최소 내년으로 연기했다. 연환산 매출이 70% 급증하며 오픈AI는 경쟁사 앤트로픽을 넘어서는 기업가치를 노린다. 기업가치 1900조원 목표와 함께 40조원 규모 신규 투자를 추진한다.
경제·금융
젠슨 황 'AI 개발 늦추는 건 잘못된 선택'
젠슨 황 엔비디아 CEO가 AI 개발 속도 지연 주장에 반대했다. 그는 자동차 산업처럼 외부 감사·평가 체계로 안전성을 확보해야 한다고 강조했다. 한국과의 지속적 협력 의지도 언급돼 제도화 논의가 관전 포인트가 될 전망이다.
AI경제·금융
엔비디아, 'AI 돌발행동' 감시·제어 플랫폼 공개
엔비디아가 AI 에이전트 안전을 위한 개방형 플랫폼을 공개했다. 오픈셸과 센트리가 행동을 실시간 감시·제어한다. 앤트로픽, 마이크로소프트를 포함해 100여 개 기업이 참여했다.
AI경제·금융
한국석유공사, AI 업무혁신 경진대회 개최
한국석유공사가 AI와 데이터를 활용한 업무혁신 경진대회를 개최했다. 최우수상은 매설배관 잔여수명과 파손 확률을 예측하는 예방 의사결정 과제에 돌아갔다. 예측 기반 안전·정비 운영의 확산 가능성이 거론된다.
AI경제·금융
나이언틱, 게임 사업 매각 후 피지컬 AI 전환
나이언틱 스페이셜이 게임 사업부를 35억 달러에 매각했다. 센티미터 단위 위치 파악 정확도를 높이며 이동 안전성을 97.8%로 끌어올렸다고 밝혔다. 게임에서 B2B 피지컬 AI로 사업 전략을 전환한 점이 핵심이다.
AI경제·금융
미국인 90%, AI 기술 발전에 우려 > 기대…규제 강화 목소리
미국인 90%가 AI 기술 발전에 대해 기대보다 우려 표현 71%는 연방정부 규제가 불충분하다고 평가 AI 산업 발전과 안전 사이의 균형 논쟁 심화