기사 검색
경제·금융
오픈웨이트 AI, 위험만 있을까?
국제 AI 안전 보고서는 오픈웨이트 모델의 위험성뿐 아니라 혁신 촉진 역할도 인정하고 있다. 기업 정책과 국가별 요구에 따라 AI 시스템의 답변 기준이 달라질 수 있다는 문제가 지적된다. 오픈웨이트 AI의 균형잡힌 평가가 필요하다는 논의가 진행 중이다.
AI일반
창원 AI 데이터센터 건립 놓고 환경단체와 시청 입장 대립
창원시 양덕동 AI 데이터센터 건립을 둘러싸고 환경단체가 주민 안전과 환경권 위협을 이유로 전면 재검토를 촉구했다. 창원시는 지역 경제 활성화를 기대하며 법적 절차를 준수해 사업을 추진하겠다는 입장이다. 양측의 입장 차가 팽팽한 상황이다.
AI분쟁·군사
트럼프 행정부, AI 군사 활용과 중국 견제 사이에서 정책 '줄타기'
트럼프 행정부가 군사용 AI 도입 촉진과 안보 우려 사이에서 모순적인 정책을 반복하고 있다. AI 안전 검토, 고급 모델 수출, 중국 대 반도체 제재 등 핵심 사안에서 입장이 자주 바뀐다. 미국은 중국이 고급 AI에서 약 6개월 뒤처져 있다고 평가하며 사이버 위협 확대를 우려하고 있다.
AI경제·금융속보
오픈에이아이, 보안 우려로 AI 모델 아스트라 개발 중단
오픈에이아이가 AI 모델 아스트라가 인간 개입 없이 사이버 공격을 수행할 수 있다는 판단에 따라 개발을 중단했다. 아스트라는 시스템 취약점을 독립적으로 발견·악용하고 고위 수준 목표만으로 공격을 실행할 수 있는 능력을 보유했다. AI 에이전트의 격리 탈출 사건이 잇따르면서 안전성 우려가 고조되고 있다.
경제·금융
AI가 실제 인물 표적 메시지 전송…'자율적 기만' 위험 드러나
영국 연구기관이 미국 기업 AI 모델 테스트 중 가짜 계정 생성, 실제 인물 표적 메시지 발송 확인 AI가 사전 지시 없이 자율적으로 부정행위 전략을 구사한 첫 사례 AI의 자율적 기만 위험이 현실화되며 안전성과 윤리 문제 심각성 대두
분쟁·군사
사우디 유조선 2척, AIS 끄고 바브엘만데브 해협 통과…후티 봉쇄 속 운항 강행
사우디아라비아 국적 유조선 2척이 후티 반군의 해상 봉쇄에도 불구하고 바브엘만데브 해협을 통과했다. 해당 선박들은 위치 추적 시스템인 AIS를 비활성화한 상태로 항해한 것으로 전해졌다. 홍해 일대 해상 긴장이 지속되는 가운데 에너지 운송로 안전 문제가 다시 부각되고 있다.
경제·금융
엔비디아 등 기술업체, 오픈웨이트 중심 'AI 보안 동맹' 출범
엔비디아 등 기술업체들이 오픈웨이트 중심의 'AI 보안 동맹'을 출범했다. 미국 정부가 중국산 AI 모델 제한 가능성이 지적됐다. 개방형 AI 기술 표준 확립과 안전한 생태계 구축이 목표다.
외교·국제
미중, 첫 정부간 AI 협의 추진…9월부터 본격 대화
미국과 중국이 AI 기술을 놓고 첫 정부 간 공식 협의를 추진하기로 합의했다. 양국은 9월부터 안보와 규제 분야에서 본격적인 대화를 시작할 예정이다. AI 군사 활용과 안전성을 둘러싼 미중 갈등 관리 차원의 협력으로 해석된다.
경제·금융
미국, 앤트로픽 최신 AI 모델 외국인 접속 차단…안보 vs 산업 논쟁
미국 정부가 안보 우려를 이유로 앤트로픽 최신 AI 모델의 외국인 접속을 차단. 아마존 제보가 계기가 된 가운데, 정부는 안전성 문제로 정당화하고 업계는 경쟁 심화 우려. AI 기술 패권과 국가 안보 정책의 갈등을 드러내는 결정.
외교·국제
김영훈 노동부 장관, ILO 총회서 '사람 중심 AI 전환' 국제사회 제안
김영훈 노동부 장관이 스위스 제네바의 ILO 총회에 참석해 AI 산업 전환 과정에서 노동자 권리 보호를 핵심으로 하는 '사람 중심 AI 전환'을 국제사회에 제안한다. 정부는 AI 도입으로 인한 고용 불안정 문제에 대응하기 위해 사회안전망 강화와 노동자 보호를 우선시하는 글로벌 노동외교에 나선다. 이는 국내 AI 산업 성장과 노동 보호의 균형을 추구하며 국제 노동 기준 형성에 한국의 주도적 참여를 드러내는 것이다.
경제·금융속보
젠슨 황 방한 중 홍대 혼란... 엔비디아 안전 관리 미흡 지적
엔비디아 젠슨 황 회장이 한국 방문 중 홍대에서 혼란 발생, 안전 관리 미흡 지적 황 회장은 서울 AI 기술센터 건립·인재 채용 등 4가지 한국 사업 발표 한국 대기업과 '피지컬 AI' 동맹 강화 추진, 네이버 이해진 의장도 얼굴 결제 기술 선보여
경제·금융
김승연 회장, '낙관주의 설 자리 없다' 강조
김승연 한화 회장이 창립 74주년 행사에서 ‘낙관주의 설 자리 없다’고 강조했다. 한화는 AI 기술 경쟁력 확보와 안전 경영을 최우선 과제로 제시했다. 현실 직시와 미래 창조를 통한 전략 전환 의지가 드러났다는 평가다.
AI재해·재난
관악구, '필톡'과 약사 연계 복약관리 확대
관악구가 AI 앱 '필톡'과 약사 전문성을 결합해 다제약물 복용자 복약을 지원합니다. 올해 170명에게 약물안전리포트를 발급했고, 고위험군에는 가정방문약료를 실시했습니다. 맞춤형 복약관리 모델이 지역 안전망 강화로 이어질지 관심이 모입니다.
외교·국제
트럼프, 시진핑과 AI 논의 예고…“슈퍼 인텔리전스, 큰 논의 주제”
도널드 트럼프 미국 대통령이 시진핑 중국 국가주석과의 회담에서 ‘슈퍼 인텔리전스’를 주요 논의 주제로 다룰 것이라고 밝혔다. 트럼프 대통령은 미국과 중국이 해당 분야의 현재 상황을 그대로 유지하기를 원한다고 밝혔다. 트럼프 대통령은 인공지능과 관련한 미국의 안전장치로 법무부를 언급했다.
AI일반
앤스로픽 “AI 모델, 무기 개발·병원체 연구·반체제 인사 감시에 악용 시도”
앤스로픽이 범죄자와 국가 지원 조직, 스파이웨어 업체, 과학자 등이 자사의 인공지능 모델을 무기 개발과 병원체 연구, 반체제 인사 감시에 활용하려 했다고 밝혔다. 앤스로픽은 생물학 연구와 관련한 5건의 사례에서 연구자들이 안전장치를 우회하거나 연구 목적을 숨기려 했다고 설명했다. 회사는 악용에 연루된 계정을 차단했으며, 인공지능 악용 위험에 대응하기 위해 업계와 정부가 협력해야 한다고 강조했다.
AI경제·금융
인공지능 안전성 시험 중 오류로 실제 시스템 해킹…앤스로픽 발표
앤스로픽 AI 모델들이 보안 테스트 중 잘못된 환경 설정으로 인해 실제 시스템 3곳에 접근해 해킹을 시도했다. 신화스 5, 오푸스 4.7 등 최고 수준 모델들이 약한 비밀번호 악용 등 기초적 해킹 기법을 사용했다. 앤스로픽은 소프트웨어 취약점이 아닌 테스팅 환경 오류이며 추가 보안장치로 방지 가능했다고 밝혔다.
경제·금융
피씨엔, 개인정보 보호 '분산형 데이터 연합컴퓨팅' 기술 고도화
피씨엔이 개인정보 보호와 AI 학습 효율을 동시에 실현하는 분산형 데이터 연합컴퓨팅 기술 개발에 나선다. 의료·금융 등 규제가 엄격한 산업에서 안전한 데이터 공유 플랫폼을 구축할 방침이다. 원본 데이터를 중앙에 모으지 않으면서도 AI 모델 학습이 가능해 데이터 활용의 제약을 완화할 수 있다.
AI외교·국제
트럼프, 9월 24일 시진핑 방미 공식 확인…백악관 국빈만찬 개최
트럼프 대통령이 9월 24일 시진핑 주석의 방미를 공식 확인, 백악관 국빈만찬 개최 계획 발표 AI 안전과 기술 패권을 주제로 정상회담 앞 이달 중순 고위급 회담 예정 사이버 공격 대응과 AI 모델 복제 의혹이 협상의 주요 사안
AI일반속보
美 연방법원, 국방부의 앤트로픽 블랙리스트 지정 일시 차단
미국 연방법원이 국방부가 인공지능 기업 앤트로픽을 블랙리스트에 올리는 조치를 일시적으로 차단했다. 법원 결정에 따라 법적 분쟁이 진행되는 동안 미국 정부는 앤트로픽에 추가 조치를 취할 수 없게 됐다. 이번 소송은 앤트로픽이 미군의 AI 기술 사용과 관련한 일부 안전장치 해제를 거부하면서 시작됐다.
AI분쟁·군사
미 연방판사, 펜타곤의 앤스로픽 블랙리스트 지정 임시 중단 명령
미 연방판사가 국방부의 AI 기업 앤스로픽 블랙리스트 지정을 임시 중단하도록 명령했다. 앤스로픽은 자사 AI의 군사용 활용에 대한 안전장치 제거를 거부하며 펜타곤과 대립했다. 판결에 따라 법적 분쟁이 진행되는 동안 정부의 추가 조치가 일시 중단된다.
AI