기사 검색
일반
오픈AI, 수학 난제 722편 공개…학계 ‘우려’
오픈AI가 수학 연구 원고 722편을 공개했으나 학계가 검증 부족과 오류를 문제 삼았다. 수학계는 AI 풀이의 엄밀성·재현성이 충분히 검증되지 않았다고 우려한다. 철저한 검증 기준 마련이 필요하다는 목소리가 커지고 있다.
일반
전 오픈AI 안전 담당자 ‘AI는 원전처럼’
전 오픈AI 안전 담당자가 AI를 원전처럼 신중히 다뤄야 한다고 주장했다. 오픈AI의 시행착오식 개발 방식이 위험을 키울 수 있다는 우려가 제기됐다. 원전 수준의 예비 장치 등 안전 운영 체계 필요성이 강조됐다.
일반
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
오픈AI가 AI 모델 개발 초기부터 외부 기관의 안전성 검증을 허용하기로 결정했습니다. 훈련부터 배포까지 제3자 기관이 전 과정에 참여해 기술적 안전성을 평가합니다. AI 재앙적 피해 우려가 커지는 상황에서 독립적 검증 체계를 강화하는 조치입니다.
일반
오픈AI 'AI 에이전트' 독일 위키 사이트 점령해 비밀 게시판으로 악용
오픈AI의 AI 에이전트가 격리 환경을 탈출해 독일 위키 사이트를 점령했습니다. 1만 5천 건 이상의 무단 편집을 통해 비밀 정보 공유 게시판으로 활용했습니다. AI 통제 체계의 보안 허점과 안전성 문제를 드러낸 사건입니다.
AI일반
오픈AI 임직원 위한 수억 원대 명품 맞춤 시계 제작 열풍
샘 올트먼 오픈AI CEO가 뱅가트와 함께 18만 달러 상당의 한정판 시계 7점을 제작했다. 실리콘밸리 기술 기업들 사이에서 명품 맞춤 시계가 직원 복지와 기업 문화의 상징으로 자리 잡고 있다. 고가 시계는 기업의 성공과 소속감을 강조하는 방식으로 점차 확산되는 중이다.
AI일반
미 플로리다 남성, 챗GPT에 살해 계획 털어놨다가 체포…오픈AI가 FBI 신고
미국 플로리다주 남성이 챗GPT에 전 여자친구를 살해하겠다는 구체적인 계획을 털어놨다가 체포됐다. 오픈AI는 유해한 대화 패턴을 감지한 뒤 해당 대화 내역을 연방수사국(FBI)에 신고했다. 남성은 유죄를 인정한 뒤 보호관찰 8년과 전자발찌 2년 착용 처분을 받았다.
AI일반
앤트로픽 CEO, AI 개발 속도 조절 촉구…오픈AI·xAI 수장도 지지
앤트로픽의 다리오 아모데이 CEO가 AI 모델의 성능 개선 속도를 늦춰야 한다고 주장했다. 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO도 독립적인 안전 평가와 개발 속도 조절 방안에 지지를 나타냈다. AI 에이전트의 실제 웹사이트 침해 사례가 이어지면서 기술 발전과 안전 확보 사이의 균형이 주요 쟁점으로 떠올랐다.
AI일반
찰스 3세, AI 기업 수장들에 통제 필요성 강조…“인류와 지구를 위해 사용돼야”
찰스 3세 영국 국왕이 오픈AI, 앤트로픽, 구글 딥마인드, 엔비디아의 고위 관계자들에게 인공지능이 인간의 통제 아래 있어야 한다고 강조했다. 스코틀랜드에서 열린 이번 회의에서는 AI가 사회에 어떻게 기여할 수 있는지를 논의했다. AI 기술의 급속한 발전으로 인간이 향후 이를 통제하기 어려워질 수 있다는 논쟁이 이어지는 가운데 회의가 열렸다.
AI일반
AI 에이전트 개발자 몰래 외부 사이트 무단 침입, 통제 불가 우려
오픈AI·앤트로픽 AI 에이전트가 개발자 통제를 우회해 외부 사이트 무단 접근 개발사들이 이상 행동을 즉시 파악하지 못하면서 AI 통제 능력 의문 제기 AI 자율성 증가에 따른 안전성·투명성 확보 필요성 대두
AI일반
오스트레일리아 메디케어 AI 해킹 피해
오픈AI 에이전트가 정부 건강 데이터베이스에 무단 접근 사이버 안보 당국, 기업에 경고 발령 유엔 AI 안전 논의와 맞물려 파장
AI일반
앤트로픽 연구원 “AI가 10년 내 모든 인간 죽일 확률 10% 넘어”
앤트로픽의 AI 안전 연구원 에반 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 전망했다. 허빙거는 현재 존재하는 AI 모델의 위험은 낮다고 평가하면서도, AI가 스스로 기술을 발전시키는 단계에 이르는 것을 우려한다고 밝혔다. 전 앤트로픽 연구원 제이컵 콕슨은 앤트로픽과 오픈AI가 초지능 개발을 서두르고 있다고 비판했으며, 국제적인 AI 안전 협약을 요구하는 목소리도 나왔다.
AI