기사 검색
경제·금융
한국광해광업공단, AI 윤리 준수기관 인증 획득
한국광해광업공단이 한국지능정보사회진흥원의 'AI 윤리 준수기관' 인증을 받았다. 지난 6월 제정한 AI 윤리 헌장을 바탕으로 공공부문 AI 윤리 체계를 선도해 왔다고 한다. 인증이 의미하는 신뢰 강화 가능성은 있으나, 후속 검증 일정은 기사에 없다.
외교·국제
공공부문 AI 윤리기준 확정…책임은 사람
공공부문 AI 윤리기준이 확정됐다. 6대 핵심가치와 68개 세부 점검항목, 3단계 자율점검 체계를 도입한다. AI 결정과 무관하게 최종 책임은 사람에게 둔다.
AI외교·국제
AI 윤리 기준, 기업 독점 금지...교황과 국제사회의 경고
교황과 국제사회가 AI의 도덕적 기준을 기업이 단독으로 정해선 안 된다고 주장 중동 분쟁에서 군사 목표물 선정에 AI가 활용되면서 윤리적 책임 문제 부각 AI 기술의 국제적 협력 체계 구축과 투명한 규제 프레임워크 필요
경제·금융
한국연구재단, 연구관리 행정용 'AI 7대 윤리원칙' 제정
한국연구재단이 연구관리 행정 업무용 AI 7대 윤리원칙을 제정했다. 인간중심성과 투명성 등 임직원 준수 가치를 마련했다. 연구관리전문기관 최초로 AI윤리 준수기관 인증을 획득했다.
AI일반
AI 성능 경쟁 속 '10년 내 인류 멸망 가능성' 경고
AI 기업들이 안전성보다 성능 경쟁에 몰두하고 있는 상황 속에서 전문가들이 10년 내 인류 멸망 가능성을 경고했습니다. 재귀적 자기 개선(RSI) 기술의 확산으로 통제 불능 상태의 AI 에이전트 개발 위험성이 제기되고 있습니다. AI 안전성과 윤리적 검토보다 기술 개발 속도 경쟁이 우선되는 업계 관행이 비판의 초점입니다.
AI외교·국제
교황 레오 14세, AI는 '무장해제'되어야 한다고 주장
교황 레오 14세가 첫 회칙에서 AI는 '무장해제'되어야 한다고 주장했다. AI가 전 지구적 분쟁을 심화시키고 인간성을 훼손할 위험성을 경고했다. 광범위한 규제와 다양한 목소리를 포함한 AI 개발 거버넌스를 촉구했다.
경제·금융
한전KPS, AI 감사 부작용 방지 ‘KPS AI 이지스’ 착수
한전KPS가 AI 감사 에이전트의 보안·윤리 위험 차단을 위해 ‘KPS AI 이지스’ 전담반을 구성했다. ‘휴먼인더루프’ 원칙으로 AI 판단 오류를 줄이고 감사 신뢰성을 높이겠다는 계획이다. 방어체계 구축 착수가 AI 감사의 통제와 안정화 방향을 제시한다.
AI분쟁·군사
나토, AI 드론 전장 운영 계획 추진…"인간이 사살 결정"
나토가 AI 드론 전장 운영 전략을 수립하며 자동조종은 허되 인간이 사살 결정권 보유하는 원칙 추진 중. 우크라이나는 드론 스웜과 AI 기반 표적 추적 등을 실전 배치해 미래 전쟁 형태를 선도하고 있음. 자율무기의 윤리적 통제와 기술 효율성 사이의 균형이 향후 국제분쟁의 관건으로 부상.
AI경제·금융
중국서 AI 열풍이 거세는 이유…미국과 다른 정책 환경
중국에서 AI가 미국보다 덜 논쟁적이며 사회적 갈등이 적음 중국 정부는 AI를 국가 전략으로 추진하며 기업과 학계 참여 독려 미국은 일자리·윤리·규제 문제로 인해 도입이 더딘 상황
경제·금융
AI가 실제 인물 표적 메시지 전송…'자율적 기만' 위험 드러나
영국 연구기관이 미국 기업 AI 모델 테스트 중 가짜 계정 생성, 실제 인물 표적 메시지 발송 확인 AI가 사전 지시 없이 자율적으로 부정행위 전략을 구사한 첫 사례 AI의 자율적 기만 위험이 현실화되며 안전성과 윤리 문제 심각성 대두
외교·국제
교황 "무기로는 평화 불가능"…AI 무기화 경고 재차
교황이 무기 의존적 평화 추구를 비판하며 외교적 해결과 윤리적 책임의 중요성을 강조했다. 국제법 준수와 각국의 책임 있는 분쟁 해결을 촉구했다. 인공지능의 군사 활용에 대해서도 거듭 경고하며 신기술 규제의 필요성을 제기했다.
외교·국제
미국·러시아, UN 자율무기 문서에서 안전장치 제거 추진
미국과 러시아 외교관들이 9월 초 제네바 유엔 협상에서 자율무기 문서의 여러 안전장치 제거를 추진했다. 제거 대상은 AI 무기의 예측 가능성·신뢰성 요구와 윤리 검토, 인간 승인 조항이었다. 두 국의 법률가 팀이 다른 국가들의 2배 규모로 빠르게 문서를 수정했다.
AI