경영학석사(MBA) 학위를 취득한 뒤 미국 실리콘밸리에 소재한 사모펀드 팔로알토캐피탈을 설립하여 운용 중인 투자 전문가가 AI 반도체 시장의 변화를 분석하고 있다.
무슨 일이 있었나
AI 반도체 산업에서 학습(training) 중심 구조에서 추론(inference) 중심 구조로의 전환이 진행되고 있다. 이 과정에서 메모리 대역폭 부족 문제, 즉 '메모리 벽' 현상이 산업의 핵심 과제로 대두되었다. 디매트릭스(D-Matrix) 등의 새로운 기술이 이러한 문제 해결을 목표로 개발되고 있다. 해당 전문가는 'AI 로봇 반도체 빅 3 투자 트렌드'와 '2025~2027 앞으로 3년 미국 주식 트렌드' 등의 저서를 통해 이러한 시장 변화를 추적하고 있다.
배경
AI 반도체 시장은 최근 몇 년간 엔비디아(NVIDIA) 등 대형 칩 제조사를 중심으로 급속도로 성장해 왔다. 초기에는 대규모 AI 모델 학습에 필요한 고성능 GPU(그래픽처리장치) 수요가 주도했으나, 챗GPT 등 생성형 AI가 상용화되면서 추론 단계에서의 효율성이 중요해지고 있다. 추론 단계에서는 학습 단계와 달리 메모리 대역폭이 성능의 병목이 되는 현상이 발생하고 있으며, 이를 '메모리 벽'이라고 부른다. 각 반도체 기업들은 이러한 구조적 한계를 극복하기 위해 새로운 아키텍처와 기술 개발에 투자하고 있다.
의미와 전망
AI 반도체 시장에서 추론 중심으로의 전환은 기술 수요처와 칩 설계 방식에 근본적인 변화를 의도한다. 메모리 벽을 해결하는 기술 혁신은 AI 서비스의 비용 효율성을 높이고, 엣지 컴퓨팅과 같은 새로운 응용 분야를 확대할 가능성이 있다. 디매트릭스 같은 신기술이 시장에서 얼마나 빠르게 채택될 것인지, 그리고 기존 강자들이 이에 어떻게 대응할 것인지가 향후 AI 반도체 산업의 경쟁 구도를 결정할 주요 변수로 작용할 것으로 보인다.