엔비디아가 AI 에이전트의 돌발행동을 막기 위한 개방형 안전플랫폼을 공개했다. 이 플랫폼은 오픈셸과 센트리로 구성돼 AI 에이전트의 행동을 실시간으로 감시하고 제어하는 역할을 한다.
엔비디아는 앤트로픽과 마이크로소프트 등 100여 개 기업이 참여했다고 밝혔다. 참여 기관의 폭을 바탕으로 AI 안전 기술의 신뢰도를 끌어올리겠다는 구상으로 읽힌다.
이번 플랫폼 공개는 AI 에이전트가 실행 과정에서 예기치 않은 선택을 할 경우를 대비한 안전장치 강화 흐름과 맞닿아 있다. 단, 구체적 적용 범위와 성능 검증 절차 등은 원문에 제시되지 않아 향후 세부 공개가 관건으로 보인다.