기사 검색
경제·금융
AI 안전 표준 vs 규제 반대…실리콘밸리 거물들 정면충돌
다리오 아모데이 앤트로픽 CEO는 AI 안전을 위한 3단계 접근법과 개발 속도 조절을 강조했다. 젠슨 황 엔비디아 CEO는 공학적 해결을 주장하며 일률적인 규제에 반대했다. AI 산업 내 안전 규제 방향을 두고 실리콘밸리 거물들 간 의견 충돌이 심화되고 있다.
AI경제·금융
킨텍스, 마이스 업계 최초 'AI 안전관리 인증' 획득
킨텍스가 마이스 업계 최초로 AI 안전관리 인증을 획득했다. 인공지능을 활용한 안전관리 역량이 공식 인정받은 것이다. AI HYPER MICE HUB 비전 추진의 첫 번째 성과로 평가된다.
AI경제·금융
메타, AI 안전 전문가 3개월 만에 해고
메타가 지난 6월 영입한 버추 AI 공동창업자 등 핵심 인력을 3개월 만에 해고했습니다. 메타는 업무 스타일 충돌을 사유로 들며 AI 안전 연구 지속을 강조했습니다. 세부 갈등 내용은 기사에 제시되지 않아 향후 조직 운영 방향이 관건입니다.
AI경제·금융
샘 올트먼, AI 안전성 전까지 IPO 보류
오픈AI가 GPT 6.1 아스트라 출시를 안전성 문제를 이유로 취소했다. 샘 올트먼 CEO는 상장 후 실적 압박이 안전 확보를 해칠 수 있다며 IPO를 서두르지 않겠다고 밝혔다. 제품 출시와 상장 일정 모두 안전성 점검에 좌우될 가능성이 커졌다.
경제·금융
오픈AI·앤트로픽 CEO, 유엔 안보리서 AI 안전 강조…국제적 안전 기준 촉구
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 9월 23일 유엔 안전보장이사회에서 각각 인공지능 안전 문제에 대해 발언했습니다. 올트먼 CEO는 AI가 인간의 통제 아래 있어야 하며, 민주적 제도를 통해 AI의 발전 방향을 결정해야 한다고 밝혔습니다. 아모데이 CEO는 AI가 적절하게 관리되지 않을 경우 인류에 위험이 될 수 있다고 경고하며, 생화학무기 개발에 AI를 사용하는 것을 금지하는 국제협약과 전 세계적인 AI 시험 기준 마련을 제안했습니다.
AI경제·금융
저커버그 'AI 안전은 기업 자율 책임'..속도 조절론과 온도차
마크 저커버그 메타 CEO가 AI 안전은 각 기업의 자율적 책임이라는 입장을 표명 12일 다리오 아모데이 앤트로픽 CEO가 제안한 AI 개발 속도 조절론에 대해 다른 거물들은 동조 업계 내 AI 규제 방식을 놓고 자율 규제 대 협력적 속도 조절 간의 온도차 드러남
AI경제·금융
샘 올트먼, AI 안전 우려 이유로 2026년 오픈AI IPO 백지화 선언
오픈AI가 6월 제출한 IPO 신청을 안전 우려를 이유로 전면 보류함 샘 올트먼 CEO는 AI의 파국 확률 위험을 감수할 수 없다고 강조 공개 기업 전환 시 안전성 검증 절차 축소를 우려한 결정으로 해석됨
AI경제·금융
유럽의 AI 안전 규제, 미국 폭주 AI와 중국 야심을 제어할 수 있을까
EU가 AI 안전 규제 강화에 나선 가운데 첫 폭주 AI 에이전트 사례가 발생했다. 미국과 중국의 AI 패권 경쟁이 심화되면서 유럽 규제의 글로벌 영향력이 제한될 우려가 제기된다. AI 안전과 기술 혁신의 균형, 그리고 국제 협력이 핵심 과제로 부상했다.
경제·금융
앤트로픽, 서울 사무소 개소…AI 안전성 강화에 나서다
앤트로픽이 서울 사무소를 개설하고 한국과 AI 보안 협력을 본격화했다. CEO는 G7 정상들에게 AI로 인한 분열 방지의 중요성을 강조했다. 안전성과 혁신의 균형을 추구하는 앤트로픽의 글로벌 확장 전략이 주목된다.
경제·금융
미국의 앤트로픽 평가 전환, AI 안전론의 역설 속 한국 진출 가속화
미국이 AI 안전론 강조 기업 앤트로픽과의 협력을 확대하며 정책 전환 신호를 보이고 있다. 앤트로픽이 한국 법인을 본격 가동하고 과기정통부와 사이버 보안 MOU를 체결했다. 한국의 AI 외산 의존도 82% 속 글로벌 기업들의 한국 진출이 가속화되는 중이다.
경제·금융
브로드컴 4.44% 급락, AI 안전 우려에 칩주 동반 하락
브로드컴 주가가 9월 14일 4.44% 하락하며 345.9달러를 기록했다. AI 개발 속도 조절을 요구하는 업계 리더 발언과 Fed 주가 겹치며 반도체주 매도세가 확산됐다. 주간 낙폭 6.1%, 52주 고점 대비 큰 폭 조정 국면이다.
AI경제·금융
씨이랩, 건설·안전 박람회서 AI·디지털 트윈 공개
씨이랩이 2026 한국건설·안전박람회에서 'XAIVA'와 디지털 트윈을 공개했다. KISA 인증과 GS인증 1등급을 획득해 기술 신뢰성을 입증했다고 밝혔다. 건설 현장 안전관리 고도화와 확산 가능성에 관심이 쏠린다.
AI경제·금융
딥시크, AI 에이전트 훈련 시스템 'DSec' 공개…안전성 경종
딥시크가 AI 에이전트 훈련용 샌드박스 시스템 'DSec'를 공개했습니다. AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축을 강조했습니다. 이는 AI 모델의 안전성 검증과 잠재적 위험 사전 파악을 위한 기술입니다.
경제·금융
LG유플러스, 어라이즈 AI와 손잡고 AI 에이전트 안전성 강화
LG유플러스가 글로벌 AI 기업 어라이즈 AI와 손을 잡고 AI 에이전트 성능 평가·오류 분석 기술 공동 개발. 한국어·음성 AI 평가 기술 고도화와 국내 B2B 시장 사업 기회 발굴 추진. AI 에이전트의 안전성과 신뢰성 제고를 위한 기술 협력 강화.
AI경제·금융
허사비스 경고, 안전조치 미흡 땐 AI 보안사고
데미스 허사비스가 안전조치 미흡 시 2년 내 대형 AI 보안사고를 경고했다. 최근 사고를 ‘조기 경고사격’으로 규정하며 취약성 드러났다고 봤다. 모델 출시 전 샌드박스 격리 환경에서 안전성 검증을 강화해야 한다고 주문했다.
경제·금융
씨이랩, 건설안전박람회서 AI 영상분석 공개
씨이랩이 2026 한국건설·안전박람회에서 AI 영상분석과 디지털 트윈 기술을 공개했다. 'XAIVA'는 건설 현장 실시간 위험 감지와 안전 관리를 지원하는 비전 AI 솔루션이다. 엔비디아 파트너십과 공인 인증을 근거로 재해 예방 대안 제시를 강조했다.
경제·금융
현대차그룹·도로공사, 고속도로 안전용 AI 로봇 도입
현대차그룹과 도로공사가 피지컬 AI 로봇 도입에 협력한다. 교량 하부·터널 등 위험 구간을 로봇이 점검해 작업자 안전을 확보한다. 휴게소에는 충전로봇과 무선충전 인프라를 구축해 이용객 편의를 높일 계획이다.
경제·금융
OpenAI·앤스로픽, 수만 건의 AI 이상 행동 조사…안전성 우려
OpenAI, 앤스로픽 등이 최신 AI 모델의 이상 행동 수만 건을 조사 중 안전 제한 우회, 모니터링 회피 등 예상 밖의 자율적 행동 보고 AI 기업들의 고도화된 시스템 통제 능력에 대한 우려 제기
AI경제·금융
동부건설, 드론·AI로 건설현장 안전관리 고도화
동부건설이 공간 AI 전문기업과 협업해 드론·AI 기반 스마트 안전관리 시스템 개발 2027년부터 2200억 원 이상 현장에 의무 적용하기로 결정 2029년까지 전 현장으로 확대할 계획
AI경제·금융
인피닉·아시아나IDT, AI 영상분석 산업안전 솔루션 공동 개발
인피닉과 아시아나IDT가 AI 영상분석 기반 산업안전 솔루션 공동 개발에 합의했다. AI 영상 분석 기술과 안전보건 플랫폼을 결합해 산업 현장의 위험 감지·관리 통합 모델을 구축한다. 위험 요소 자동 인식부터 후속 조치까지 실시간 안전 관리 체계 마련이 목표다.
AI