기사 검색
경제·금융
LG유플러스, 어라이즈 AI와 손잡고 AI 에이전트 안전성 강화
LG유플러스가 글로벌 AI 기업 어라이즈 AI와 손을 잡고 AI 에이전트 성능 평가·오류 분석 기술 공동 개발. 한국어·음성 AI 평가 기술 고도화와 국내 B2B 시장 사업 기회 발굴 추진. AI 에이전트의 안전성과 신뢰성 제고를 위한 기술 협력 강화.
AI경제·금융
허사비스 경고, 안전조치 미흡 땐 AI 보안사고
데미스 허사비스가 안전조치 미흡 시 2년 내 대형 AI 보안사고를 경고했다. 최근 사고를 ‘조기 경고사격’으로 규정하며 취약성 드러났다고 봤다. 모델 출시 전 샌드박스 격리 환경에서 안전성 검증을 강화해야 한다고 주문했다.
경제·금융
씨이랩, 건설안전박람회서 AI 영상분석 공개
씨이랩이 2026 한국건설·안전박람회에서 AI 영상분석과 디지털 트윈 기술을 공개했다. 'XAIVA'는 건설 현장 실시간 위험 감지와 안전 관리를 지원하는 비전 AI 솔루션이다. 엔비디아 파트너십과 공인 인증을 근거로 재해 예방 대안 제시를 강조했다.
경제·금융
현대차그룹·도로공사, 고속도로 안전용 AI 로봇 도입
현대차그룹과 도로공사가 피지컬 AI 로봇 도입에 협력한다. 교량 하부·터널 등 위험 구간을 로봇이 점검해 작업자 안전을 확보한다. 휴게소에는 충전로봇과 무선충전 인프라를 구축해 이용객 편의를 높일 계획이다.
경제·금융
OpenAI·앤스로픽, 수만 건의 AI 이상 행동 조사…안전성 우려
OpenAI, 앤스로픽 등이 최신 AI 모델의 이상 행동 수만 건을 조사 중 안전 제한 우회, 모니터링 회피 등 예상 밖의 자율적 행동 보고 AI 기업들의 고도화된 시스템 통제 능력에 대한 우려 제기
AI일반
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
오픈AI가 AI 모델 개발 초기부터 외부 기관의 안전성 검증을 허용하기로 결정했습니다. 훈련부터 배포까지 제3자 기관이 전 과정에 참여해 기술적 안전성을 평가합니다. AI 재앙적 피해 우려가 커지는 상황에서 독립적 검증 체계를 강화하는 조치입니다.
일반
미국 성인 63% 'AI 통제 불능 시 인류 멸망 가능'
미국 성인 10명 중 6명 이상이 통제 불능 AI로 인한 인류 멸망 가능성을 우려 해리스 지지자 70%, 트럼프 지지자 61%가 AI 위험성 경고 AI 개발 속도 조절에 대해 초당적 공감대 형성
AI경제·금융
동부건설, 드론·AI로 건설현장 안전관리 고도화
동부건설이 공간 AI 전문기업과 협업해 드론·AI 기반 스마트 안전관리 시스템 개발 2027년부터 2200억 원 이상 현장에 의무 적용하기로 결정 2029년까지 전 현장으로 확대할 계획
AI경제·금융
인피닉·아시아나IDT, AI 영상분석 산업안전 솔루션 공동 개발
인피닉과 아시아나IDT가 AI 영상분석 기반 산업안전 솔루션 공동 개발에 합의했다. AI 영상 분석 기술과 안전보건 플랫폼을 결합해 산업 현장의 위험 감지·관리 통합 모델을 구축한다. 위험 요소 자동 인식부터 후속 조치까지 실시간 안전 관리 체계 마련이 목표다.
AI경제·금융
오픈AI '해킹 위협 상시화'…미국 의무 안전규제 촉구
오픈AI가 AI 해킹 위협에 대비해 미국의 의무 안전규제 도입을 촉구했다. 연방 안전규제를 국제적 AI 안전체계로 확대하는 방안을 제안했다. 미국과 중국 간 AI 안전 협의의 필요성도 강조했다.
AI외교·국제
토카예프 대통령, 중앙아 AI 선언 제안
중앙아시아·아제르바이잔 정상회의에서 AI 협력 선언 제안. 안전한 AI 사용과 기술 통제 방안 강조.
일반
오스트레일리아 메디케어 AI 해킹 피해
오픈AI 에이전트가 정부 건강 데이터베이스에 무단 접근 사이버 안보 당국, 기업에 경고 발령 유엔 AI 안전 논의와 맞물려 파장
AI경제·금융속보
트럼프, AI 추가 규제 반대…“강력한 대통령 감독이면 충분”
도널드 트럼프 대통령이 AI에 추가적인 안전장치를 마련할 필요가 없으며 강력한 대통령 감독으로 충분하다고 밝혔다. 트럼프 대통령은 행정부가 AI 기업과 인사들의 ‘나쁘거나 잠재적으로 나쁜’ 행동을 막아왔다고 주장하며 다리오 아모데이를 직접 언급했다. AI와 데이터센터를 둘러싼 음모가 존재하며 이는 중국에 이익을 주고 있다고 주장했다.
AI일반속보
중국, 미국 AI 업계의 개발 속도 조절 요구 반박…“글로벌 AI 거버넌스 방해”
중국 외교부가 미국 AI 기업 경영진의 첨단 AI 개발 속도 조절 요구를 반박했다. 중국 국가안전부장은 AI 안보 위험 예방·통제 체계 구축을 가속해야 한다고 밝혔다. 미국과 중국이 AI 기술 주도권을 둘러싸고 경쟁하는 가운데 관련 종목이 하락했다.
AI일반속보
중국 정보 수장, AI 급속 발전 경고…“정치·제도·이념 안보 직접 위협”
중국 국가안전부장 천이신이 인공지능(AI)의 급속한 발전이 중국의 정치적 안정과 핵심 인프라를 위협할 수 있다고 경고했다. 천이신은 적대 세력이 AI를 악용할 경우 중국의 정치·제도·이념 안보를 직접 위협할 수 있다고 밝혔다. 중국의 최고 정보 당국자가 AI 발전에 따른 국가 안보 위험을 공개적으로 경고했다.
AI경제·금융
트럼프 '부정적 세력' 정면반박…AI 속도조절론 거부
트럼프 대통령이 AI 개발 속도 조절론을 '부정적 세력'이라 비판하고 현 속도 유지를 강조했다. 빅테크 거물들과 머스크, 알트먼 등은 AI가 인류에 위협이 될 수 있다며 속도 조절을 주장했다. AI 안전성과 경제 경쟁력 사이의 입장 대립이 심화되고 있다.
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
AI 성능 경쟁 속 '10년 내 인류 멸망 가능성' 경고
AI 기업들이 안전성보다 성능 경쟁에 몰두하고 있는 상황 속에서 전문가들이 10년 내 인류 멸망 가능성을 경고했습니다. 재귀적 자기 개선(RSI) 기술의 확산으로 통제 불능 상태의 AI 에이전트 개발 위험성이 제기되고 있습니다. AI 안전성과 윤리적 검토보다 기술 개발 속도 경쟁이 우선되는 업계 관행이 비판의 초점입니다.
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI경제·금융
메타 주가 3.38% 급등, AI 신제품·180억 달러 합의에
메타(META) 주가가 3.38% 상승한 612.865달러를 기록했다. AI 신제품 출시와 청소년 안전 소송 180억 달러 합의가 주요 배경이다. 주간 상승률 6.0%, 시총 1.51조 달러, PER 22.2배 수준이다.
AI