엔비디아, 또 AI 추론 스타트업에 투자...베이스텐에 1억 5000만 달러

추론칩 기업 ‘그로크’ 사실상 인수 나선지 한달만
추론시장도 장악하려는 엔비디아의 야망

젠슨 황 엔비디아 최고경영자(CEO)가 지난 5일(현지시각) 미국 네바다주 라스베이거스 퐁텐블루에서 열린 엔비디아 CES 2026 라이브에서 특별연설을 하고 있다. /뉴스1

20일(현지 시각) 미국 월스트리트저널(WSJ)은 엔비디아가 미국 인공지능(AI) 추론 최적화 플랫폼을 개발하는 스타트업 베이스텐(Baseten)에 1억5000만달러(약 2207억원)를 투자했다고 보도했다. 이는 베이스텐이 이번 투자 라운드에서 조달한 3억달러의 절반에 해당한다. 이번 투자 마무리로 베이스텐의 기업 가치는 종전의 2배로 급등한 50억달러(약 7조4000억원)로 치솟았다. WSJ는 “엔비디아가 AI의 추론을 더 효율적으로 만들어주는 기술에 대해 공격적으로 투자를 확대하고 있다”며 “AI 업계가 대형 모델 학습에서 추론으로 중심이 옮겨가는 추세”라고 전했다.

AI 학습이 똑똑한 AI의 뇌를 만드는 단계라면, 추론은 이미 만들어진 뇌를 효과적으로 사용하게 만드는 단계다. 더 적은 자원을 쓰면서 더 빨리 결과를 도출해 전력 소모와 사용료를 줄이는 게 핵심이다. 처음부터 천문학적 투자 자금이 필요한 대형 모델 학습 경쟁은 빅테크가 주도했지만, 추론 영역에서는 다양한 스타트업이 시장을 만들어 가고 있다. 엔비디아는 학습용 AI 반도체 시장을 장악하고 있지만, 향후 각광받을 추론 시장도 선점하기 위해 선제적 투자에 나선 것이다.

엔비디아는 지난해 12월 그래픽처리장치(GPU)를 대체해 더 효율적인 추론을 할 수 있는 언어처리장치(LPU)를 개발하는 그로크에 200억달러(약 29조원)를 투자하기도 했다. 양사는 표면적으로는 기술을 독점적으로 사용하는 ‘기술 계약’을 맺었지만, 사실상 엔비디아가 그로크를 인수한 것이나 마찬가지라는 분석이 나온다. 엔비디아가 그로크 같은 비(非)GPU 제품과 베이스텐의 소프트웨어적 강점을 흡수하고, GPU와 추론 전용 칩, 그리고 추론 효율화 소프트웨어까지 묶은 완전한 AI 시스템 공급자로 거듭나고 있는 것이다.

실제로 AI 추론에 집중하는 스타트업들은 최근 가치가 크게 높아지고 있다. 대형언어모델(LLM)의 추론·서비스용 클라우드에 초점을 맞춘 세레브라스 시스템스는 지난해 오픈AI와 100억달러 규모 컴퓨팅 파트너십을 발표했고, 현재 기업 가치 220억 달러로 10억 달러 규모의 자금 조달을 논의 중에 있다. 개발자들에게 AI 추론 인프라를 제공하는 파이어웍스 AI는 지난해 10월 기업 가치 40억달러를 평가받으며 2억 5000만달러를 조달하는 데 성공했다.