엔비디아가 인공지능 에이전트의 저지연 추론에 특화한 ‘그록3 LPX’를 본격 양산 단계에 진입시키고 첫 고객사를 확보했다. 해당 제품은 삼성전자 파운드리 사업부가 생산을 맡은 것으로 확인되면서 삼성전자의 인공지능 반도체 수탁생산 경쟁력에도 관심이 집중되고 있다.
엔비디아는 24일(현지시간) ‘그록3 LPX’가 본격적인 양산 단계에 들어갔다고 발표했다. 그록3 LPX는 엔비디아의 ‘베라 루빈’ 인공지능 시스템과 함께 작동하도록 설계된 추론 가속 시스템으로, 인공지능 에이전트가 답변을 생성하는 과정에서 발생하는 지연시간을 줄이는 데 초점을 맞췄다.
그록3 LPX는 그록의 언어처리장치 256개를 하나의 랙에 집적한 구조다. 특히 일반적인 그래픽처리장치 기반 시스템과 달리 언어처리장치 내부에 정적램을 활용해 빠른 토큰 생성에 최적화한 것이 특징이다. 엔비디아는 그록3 LPX를 기존 그래픽처리장치를 대체하는 제품이 아니라 베라 루빈 시스템과 결합해 추론 성능을 높이는 전용 가속기로 설명하고 있다.
엔비디아에 따르면 그록3 LPX는 인공지능 에이전트 모델의 장문맥 추론 환경에서 높은 토큰 생성 속도를 구현한다. 인공지능 분석기관의 벤치마크에서 10만 토큰의 문맥과 젬마4 31B 모델을 사용했을 때 초당 약 3,400개의 출력 토큰을 기록했으며, 엔비디아는 이를 경쟁 플랫폼보다 약 4배 빠른 수준이라고 설명했다.
고객 확보도 이뤄졌다. 엔비디아는 인공지능 클라우드 사업자인 네비우스가 그록3 LPX를 채택한 첫 인공지능 클라우드 사업자라고 밝혔다. 네비우스는 자체 ‘토큰 팩토리’에 그록3 LPX를 베라 루빈 시스템과 결합해 인공지능 에이전트와 코딩 등 실시간성이 중요한 서비스의 추론 성능을 높일 계획이다.
삼성전자와의 협력도 이번 양산의 핵심이다. 삼성전자는 올해 엔비디아와의 협력을 소개하면서 삼성전자 파운드리 사업부가 그록3 언어처리장치 생산을 맡을 계획이라고 공개했으며, 당시 공개된 웨이퍼는 4나노미터 공정 기반으로 소개됐다.
엔비디아는 동시에 인공지능 에이전트용 중앙처리장치인 ‘베라’의 고객 확보 사실도 공개했다. SpaceX AI는 차세대 인공지능 에이전트 시스템에 엔비디아 베라 중앙처리장치를 도입하고, 지상 데이터센터뿐 아니라 향후 우주 궤도까지 베라 루빈 기반 인공지능 인프라를 확대할 계획이라고 밝혔다.
SpaceX AI는 특히 1세대 ‘스타마인드’ 인공지능 위성에 우주 환경에 맞게 최적화한 베라 루빈 시스템을 적용하는 구상을 제시했다. 엔비디아는 중앙처리장치가 인공지능 에이전트의 도구 사용, 코드 실행, 데이터 처리, 시뮬레이션 및 작업 조율 등을 담당해 그래픽처리장치가 모델 연산에 집중하도록 하는 구조라고 설명했다.
이번 발표는 엔비디아가 인공지능 학습용 그래픽처리장치 중심의 사업 구조에서 벗어나 추론 단계까지 하드웨어와 네트워크, 소프트웨어를 통합하는 방향으로 인공지능 데이터센터 사업을 확대하고 있다는 점에서 의미가 있다. 특히 인공지능 에이전트가 여러 단계의 추론과 도구 호출을 반복하는 구조로 발전하면서 개별 응답의 지연시간을 낮추는 전용 연산장치의 중요성이 커지고 있다.