중국 AI 회사 딥시크가 대규모 AI 에이전트 훈련을 위한 샌드박스 인프라 'DSec'를 새롭게 공개했습니다. 이는 AI 에이전트의 통제 이탈 위험을 경고하며 안전한 훈련 환경 구축의 중요성을 강조하는 조치입니다.
DSec는 AI 에이전트가 복잡한 작업을 수행하도록 훈련할 때 발생할 수 있는 예기치 않은 동작이나 통제 불가능한 상황을 제어하기 위해 설계된 것으로 알려져 있습니다. 이를 통해 AI 모델의 안전성을 검증하고 잠재적 위험을 미리 파악할 수 있는 환경을 제공합니다.
이번 공개는 AI 기술이 고도화되면서 에이전트형 AI 시스템의 안전성에 대한 업계의 관심이 높아지고 있음을 반영합니다. 딥시크를 포함한 주요 AI 개발사들은 강력한 모델의 능력과 안전성 사이의 균형을 맞추기 위한 다양한 기술적 접근을 시도해 왔습니다.