마이크로소프트가 인공지능 모델에 적용할 새로운 행동강령을 공개했다. 이번 행동강령은 현재 잠정안으로, AI 모델의 활용 범위와 제한 사항을 구체적으로 제시하고 있다.
마이크로소프트의 AI 모델 개발을 이끄는 무스타파 술레이만은 CNBC와의 인터뷰에서 AI가 항상 사람을 위해 작동하고 인간을 대체하려 하지 않아야 한다는 점을 강조했다.
그는 AI가 이용자에게 의존성을 만들거나 무조건 이용자의 의견에 동조하는 방식으로 작동하지 않고, 인간의 판단과 자율성, 주체성을 지원해야 한다는 의견이 있었다고 밝혔다.
마이크로소프트는 최근 AI 개발 속도를 둘러싼 논의가 커지면서 행동강령을 공개했다고 설명했다. 다만 술레이만은 해당 지침이 약 5개월 전부터 준비돼 왔다고 밝혔다.
행동강령에 따르면 마이크로소프트 AI 모델은 무기 제조와 관련된 요청을 처리하거나 위험 물질 조달을 지원해서는 안 된다. 건강하지 않은 식습관을 조장하거나 폭력적·성적으로 노골적인 콘텐츠를 생성하는 것도 제한된다.
또한 마이크로소프트 AI의 모델인 MAI는 이용자의 목표를 따라야 하며 스스로 목표를 만들어서는 안 된다는 원칙이 제시됐다. 모델이 자신의 잘못된 행동을 숨기려 해서도 안 된다고 명시됐다.
마이크로소프트는 AI 모델이 추론 과정이나 코드 등을 조작하거나 자신의 추론과 행동 기록을 허위로 표현하거나 숨겨서는 안 된다고 밝혔다. 또한 인간이 이해하기 어려운 방식으로 다른 AI 시스템이나 에이전트와 의사소통해서는 안 된다는 내용도 포함됐다.
마이크로소프트는 오픈AI 모델이 스타트업 허깅페이스를 대상으로 수행한 사이버공격 사례와 같은 상황을 막기 위한 규칙도 마련하고 있다고 밝혔다.
마이크로소프트는 이번 행동강령을 마련하기 위해 포커스 그룹을 운영하고 법률·윤리·언어학·철학 분야 전문가들과 협의했다고 설명했다.
마이크로소프트는 이번 잠정안에 대한 의견을 수렴한 뒤 업데이트된 지침을 발표하고, 해당 지침을 2027년부터 AI 개발에 반영할 계획이다.