[AI 인프라 전쟁] 오픈AI, 자체 칩 공개…엔비디아 독점체제 위협

오픈AI를 비롯한 인공지능(AI) 기업들이 자체 반도체 개발에 속도를 내며 최첨단 AI 칩 시장에서 엔비디아의 지위가 위협받고 있다는 분석이 나온다.

26일(현지시간) 경제전문 매체 CNBC는 최근 AI 추론 과정에서도 엔비디아 칩에 대한 수요가 크게 늘었지만 동시에 하이퍼스케일러와 기술 기업들이 AI 시스템 구동을 위한 자체 반도체 개발에서 성과를 나타내고 있다고 전했다.

이번주 오픈AI는 첫 자체 AI 칩인 '할라페뇨'가 "업계 최고 수준의 속도와 효율성"을 갖췄다고 밝혔다. 할라페뇨는 추론용으로 설계됐다. 욜그룹의 아드리앙 산체스 기술 애널리스트는 할라페뇨가 "하이퍼스케일러가 설계한 칩이 이제 추론 효율성 측면에서 엔비디아의 블랙웰급 그래픽처리장치(GPU)를 따라잡거나 능가할 수 있다는 것을 보여준다"고 분석했다.

산체스는 엔비디아가 여전히 AI 컴퓨팅 시장에서 "압도적인" 지위를 차지하고 있으며 소프트웨어 플랫폼 쿠다(CUDA)를 통해 생태계에 대한 강력한 락인 효과를 확보하고 있다고 설명했다. 그러나 그는 오픈AI의 새 칩이 "현재 가장 빠르게 성장하고 있는 분야인 추론 시장에서 엔비디아의 마진에 위협이 된다"고 덧붙였다.

오픈AI는 할라페뇨의 첫 벤치마크 결과를 공개하며 수요가 증가함에 따라 해당 칩을 통해 사용자들이 "더 빠른 응답과 보다 반응성이 높은 에이전트, 더욱 안정적인 접근성"을 확보할 수 있을 것이라고 밝혔다.

새 칩은 연말까지 오픈AI의 컴퓨팅 인프라에 배치될 예정이다. 오픈AI는 브로드컴과 함께 AI 칩을 개발하고 있으며 이미 2세대와 3세대 반도체 개발에도 착수했다고 밝혔다.

옴디아의 알렉산더 해로웰 수석 수석애널리스트는 할라페뇨가 "무엇보다 효율성 측면에서 인상적인 성과"를 보였다고 평가했다. 그는 "대규모로 배치될 경우 전력, 냉각, 전력 공급 인프라 비용을 절감하고 단위당 경제성에도 상당한 기여를 할 것"이라고 말했다.

오픈AI는 대규모 AI 모델을 학습시키고 운영하며 대량의 엔비디아 GPU를 구매해온 주요 고객이다. 자체 칩을 확보하면 양사 관계에도 영향을 미칠 수 있다. 산체스는 오픈AI가 "엔비디아 GPU를 단일 기업 기준으로 가장 많이 소비하는 고객 가운데 하나였다"고 설명하며 할라페뇨의 등장은 특히 "엔비디아의 가장 큰 고객과의 관계를 둘러싼 경쟁의 판도를 한층 더 높이고 있다"고 말했다.

트렌드포스의 피온 치우 애널리스트도 오픈AI의 자체 칩이 장기적으로 추론 작업에서 엔비디아에 대한 의존도를 낮출 수 있다고 말했다. 그러나 그는 대규모 모델 학습이나 최첨단 AI 작업처럼 더 많은 컴퓨팅 성능을 요구하는 분야에서는 여전히 엔비디아 GPU가 중요할 것으로 전망했다. 치우는 "폭넓은 프로그래밍 가능성, 성능, 소프트웨어 생태계, 다양한 작업을 처리할 수 있는 능력 등을 고려할 때 엔비디아 GPU가 여전히 중요한 역할을 할 것으로 본다"고 말했다.

시장조사업체 세미애널리시스는 오픈AI 연구소를 방문해 할라페뇨의 성능을 직접 벤치마크했다. 그 결과 거의 모든 테스트 시나리오에서 할라페뇨가 와트당 성능에서 블랙웰을 앞섰다고 전했다.

다만 세미애널리시스는 할라페뇨가 최신 HBM4 메모리를 사용하기 때문에 이 비교가 "다소 불완전하고 불공정하다"고 평가했다. HBM4를 사용하는 엔비디아의 차세대 플랫폼 루빈이 보다 직접적인 비교 대상이라는 설명이다.

세미애널리시스는 "베라루빈 시스템은 현재 고객들에게 출하되기 시작했지만 오픈AI가 할라페뇨의 엔지니어링 샘플을 넘어선 제품을 내놓기까지는 여전히 시간이 걸릴 것"이라고 덧붙였다.

오픈AI 외에도 구글, 아마존웹서비스(AWS), 메타 역시 자체 AI 칩을 개발하고 있다. 특히 지난 4월에 맞춤형 AI 칩과 관련해 여러 건의 계약이 잇따라 발표됐다.

구글은 AI 학습과 추론을 위한 새로운 텐서처리장치(TPU)를 공개했다. 메타는 브로드컴 기술을 활용한 맞춤형 AI 칩을 1기가와트(GW) 규모로 배치하기로 합의했다. 앤트로픽은 향후 10년간 AWS 기술에 1000억달러 이상을 지출하기로 약속했다. 여기에는 아마존이 자체 개발한 AI 칩인 트레이니엄의 현재 및 향후 세대 제품도 포함된다.

해로웰은 "할라페뇨와 같은 맞춤형 칩이 2028년까지 물량 기준으로 GPU를 넘어설 것"으로 예상했다. 다만 그는 "GPU가 상당히 더 비싸기 때문에 매출 측면에서는 역전까지 훨씬 더 오랜 시간이 걸릴 것"이라고 분석했다. 그는 "이는 엔비디아에 가장 큰 경쟁 위협"이라며 "AI 인프라 자본지출의 약 절반이 하이퍼스케일 클라우드 사업자에서 발생하고 있으며 이들 가운데 상당수가 자체 칩 프로그램을 운영하거나 충분히 자체 칩 개발에 나설 수 있기 때문"이라고 덧붙였다.

세레브라스, 삼바노바, D-매트릭스, 에치드, 프랙틸 등 여러 스타트업들도 AI용 칩을 개발하고 있다.