기사 검색
일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
경제·금융
AI 안전 표준 vs 규제 반대…실리콘밸리 거물들 정면충돌
다리오 아모데이 앤트로픽 CEO는 AI 안전을 위한 3단계 접근법과 개발 속도 조절을 강조했다. 젠슨 황 엔비디아 CEO는 공학적 해결을 주장하며 일률적인 규제에 반대했다. AI 산업 내 안전 규제 방향을 두고 실리콘밸리 거물들 간 의견 충돌이 심화되고 있다.
AI외교·국제
미·중, 9월 중순 첫 AI 안전 공식 양자회담 추진…정상회담 성과로 주목
미국과 중국이 9월 중순 도널드 트럼프 대통령의 2기 임기 이후 처음으로 인공지능(AI) 안전을 주제로 한 공식 양자회담을 개최하는 방안을 준비하고 있는 것으로 전해졌다. 미국은 AI에 의한 사이버 공격을 공동으로 모니터링하고 양국 AI 연구소가 안전 관련 정보를 공유하는 방안을 논의할 것을 제안할 것으로 알려졌다. 중국은 이번 대화를 9월 24일 예정된 미·중 정상회담의 중요한 성과 가운데 하나로 보고 있는 것으로 전해졌다.
AI경제·금융
킨텍스, 마이스 업계 최초 'AI 안전관리 인증' 획득
킨텍스가 마이스 업계 최초로 AI 안전관리 인증을 획득했다. 인공지능을 활용한 안전관리 역량이 공식 인정받은 것이다. AI HYPER MICE HUB 비전 추진의 첫 번째 성과로 평가된다.
AI외교·국제
스콧 베선트 'AI 안전 가속' 강조
스콧 베선트 미국 재무장관이 AI 안전을 위한 업계 자율 조치를 강조했다. 정부는 ‘안전한 발전 가속화’를 목표로 하지만 중국과는 모델의 금지 사항만 합의할 방침으로 알려졌다. 자율 규제 중심 접근이 주도권 전략과 맞물릴지 관심이 모인다.
경제·금융
메타, AI 안전 전문가 3개월 만에 해고
메타가 지난 6월 영입한 버추 AI 공동창업자 등 핵심 인력을 3개월 만에 해고했습니다. 메타는 업무 스타일 충돌을 사유로 들며 AI 안전 연구 지속을 강조했습니다. 세부 갈등 내용은 기사에 제시되지 않아 향후 조직 운영 방향이 관건입니다.
AI경제·금융
샘 올트먼, AI 안전성 전까지 IPO 보류
오픈AI가 GPT 6.1 아스트라 출시를 안전성 문제를 이유로 취소했다. 샘 올트먼 CEO는 상장 후 실적 압박이 안전 확보를 해칠 수 있다며 IPO를 서두르지 않겠다고 밝혔다. 제품 출시와 상장 일정 모두 안전성 점검에 좌우될 가능성이 커졌다.
경제·금융
오픈AI·앤트로픽 CEO, 유엔 안보리서 AI 안전 강조…국제적 안전 기준 촉구
샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO가 9월 23일 유엔 안전보장이사회에서 각각 인공지능 안전 문제에 대해 발언했습니다. 올트먼 CEO는 AI가 인간의 통제 아래 있어야 하며, 민주적 제도를 통해 AI의 발전 방향을 결정해야 한다고 밝혔습니다. 아모데이 CEO는 AI가 적절하게 관리되지 않을 경우 인류에 위험이 될 수 있다고 경고하며, 생화학무기 개발에 AI를 사용하는 것을 금지하는 국제협약과 전 세계적인 AI 시험 기준 마련을 제안했습니다.
AI외교·국제
샘 올트먼 오픈AI CEO, 유엔 안보리서 AI 안전 표준 필요성 강조
샘 올트먼 오픈AI CEO가 9월 23일 유엔 안보리 회의에서 AI 안전과 국제 안보를 주제로 브리핑을 진행할 예정 올트먼 CEO는 업계의 속도조절론에 발맞춰 국제적인 공통 AI 안전 기준 마련을 촉구할 계획 AI 기업 지도자의 유엔 안보리 참석은 AI 거버넌스에 대한 국제사회의 관심이 높아짐을 보여줌
AI경제·금융
저커버그 'AI 안전은 기업 자율 책임'..속도 조절론과 온도차
마크 저커버그 메타 CEO가 AI 안전은 각 기업의 자율적 책임이라는 입장을 표명 12일 다리오 아모데이 앤트로픽 CEO가 제안한 AI 개발 속도 조절론에 대해 다른 거물들은 동조 업계 내 AI 규제 방식을 놓고 자율 규제 대 협력적 속도 조절 간의 온도차 드러남
AI경제·금융
샘 올트먼, AI 안전 우려 이유로 2026년 오픈AI IPO 백지화 선언
오픈AI가 6월 제출한 IPO 신청을 안전 우려를 이유로 전면 보류함 샘 올트먼 CEO는 AI의 파국 확률 위험을 감수할 수 없다고 강조 공개 기업 전환 시 안전성 검증 절차 축소를 우려한 결정으로 해석됨
AI일반
부산 지하철 센텀시티역에 AI 안전관리 플랫폼 시범 도입
부산시가 에스컬레이터 사고 예방을 위해 AI 기반 스마트 안전관리 플랫폼을 센텀시티역에 시범 도입했다. 이 시스템은 이용자의 위험 행동을 실시간으로 감지해 사고를 방지한다. 공공 교통 시설의 안전 관리 체계를 기술로 강화하는 사례로 평가된다.
AI경제·금융
유럽의 AI 안전 규제, 미국 폭주 AI와 중국 야심을 제어할 수 있을까
EU가 AI 안전 규제 강화에 나선 가운데 첫 폭주 AI 에이전트 사례가 발생했다. 미국과 중국의 AI 패권 경쟁이 심화되면서 유럽 규제의 글로벌 영향력이 제한될 우려가 제기된다. AI 안전과 기술 혁신의 균형, 그리고 국제 협력이 핵심 과제로 부상했다.
경제·금융
앤트로픽, 서울 사무소 개소…AI 안전성 강화에 나서다
앤트로픽이 서울 사무소를 개설하고 한국과 AI 보안 협력을 본격화했다. CEO는 G7 정상들에게 AI로 인한 분열 방지의 중요성을 강조했다. 안전성과 혁신의 균형을 추구하는 앤트로픽의 글로벌 확장 전략이 주목된다.
경제·금융
미국의 앤트로픽 평가 전환, AI 안전론의 역설 속 한국 진출 가속화
미국이 AI 안전론 강조 기업 앤트로픽과의 협력을 확대하며 정책 전환 신호를 보이고 있다. 앤트로픽이 한국 법인을 본격 가동하고 과기정통부와 사이버 보안 MOU를 체결했다. 한국의 AI 외산 의존도 82% 속 글로벌 기업들의 한국 진출이 가속화되는 중이다.
경제·금융
브로드컴 4.44% 급락, AI 안전 우려에 칩주 동반 하락
브로드컴 주가가 9월 14일 4.44% 하락하며 345.9달러를 기록했다. AI 개발 속도 조절을 요구하는 업계 리더 발언과 Fed 주가 겹치며 반도체주 매도세가 확산됐다. 주간 낙폭 6.1%, 52주 고점 대비 큰 폭 조정 국면이다.
AI일반
영국, AI 기업에 안전 강화 촉구하며 사이버 방어 강화
AI 장관이 프론티어 AI 모델 안전 노력을 강조했다. 영국은 자체 AI 인프라 구축 필요성을 제기했다. 사이버 방어 강화 계획도 발표됐다.
AI경제·금융
씨이랩, 건설·안전 박람회서 AI·디지털 트윈 공개
씨이랩이 2026 한국건설·안전박람회에서 'XAIVA'와 디지털 트윈을 공개했다. KISA 인증과 GS인증 1등급을 획득해 기술 신뢰성을 입증했다고 밝혔다. 건설 현장 안전관리 고도화와 확산 가능성에 관심이 쏠린다.
AI경제·금융
딥시크, AI 에이전트 훈련 시스템 'DSec' 공개…안전성 경종
딥시크가 AI 에이전트 훈련용 샌드박스 시스템 'DSec'를 공개했습니다. AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축을 강조했습니다. 이는 AI 모델의 안전성 검증과 잠재적 위험 사전 파악을 위한 기술입니다.
일반속보
중국 국가안전부장, AI 위험 경고…“공산당 통치에 대한 위협 커져”
천이신 중국 국가안전부장이 인공지능이 중국 공산당 통치에 초래할 위험을 경고하며 정부의 감독과 당의 통제를 강화해야 한다고 주장했다. 그는 AI 딥페이크를 활용한 선전전, 핵심 인프라에 대한 사이버공격, 해외 AI 모델 이용에 따른 데이터 유출, 군사 경쟁 가속화를 주요 위협으로 지목했다. 천 부장은 미국의 AI 모델인 클로드 미토스와 GPT-5.5-사이버를 구체적으로 언급하며 외국 정보기관이 AI를 대규모 첩보 활동에 활용할 수 있다고 경고했다.
AI