"엔비디아 칩 느려" 타 공급처 찾아 나선 오픈AI…주가 3%↓

엔비디아 GPU, 방대한 AI 학습에 강하지만
오픈AI "챗GPT 추론 속도 너무 느려" 불만
세레브라스·그로크 등 S램 활용 팹리스 접촉
오픈AI·엔비디아 관계 균열에 투자 협상 지연
"엔비디아 추론용 AI 시장 지배력 중대 시험대"

[이데일리 김겨레 기자] 오픈AI가 엔비디아의 인공지능(AI)용 그래픽처리장치(GPU)의 추론 속도가 느리다는 불만을 가지고 대체 공급처를 모색한 것으로 알려졌다.

젠슨 황 엔비디아 최고경영자. (사진=AFP)

로이터통신은 이날 익명의 소식통 8명을 인용해 오픈AI가 지난해부터 엔비디아의 최신 AI 용 칩에 만족하지 못해 다른 회사의 칩을 찾아 나섰다고 보도했다.

AI 학습용 반도체 시장에서 압도적인 강자인 엔비디아가 추론용 반도체 시장에선 지배력을 유지하지 못할 수 있다는 예상에 2일(현지시간) 엔비디아 주가는 3% 하락했다.

오픈AI는 엔비디아의 GPU가 소프트웨어 개발이나 AI와 다른 소프트웨어간 통신 등과 같은 특정 유형의 문제에 대해 챗GPT의 답변 속도가 느려졌다는 데 불만을 제기한 것으로 전해졌다. 특히 오픈AI가 최근 공격적으로 마케팅하고 있는 AI 에이전트 관리 도구 ‘코덱스’를 구동하는데 예상보다 오랜 시간이 걸렸는데, 그 원인을 엔비디아의 GPU 탓으로 돌렸다.

엔비디아 GPU는 방대한 데이터를 처리해야 하는 AI 모델 학습에 적합한 것으로 평가받는다. 하지만 AI 모델이 점점 발전하면서 학습보다는 추론에 대한 수요가 높아지고 있다. 엔비디아와 AMD는 외부에 HBM을 연결하는 방식으로 칩을 설계하는데, 이로 인해 처리 시간이 늘어나 결국 챗GPT의 응답 속도가 느려진다는 것이다.

오픈AI는 더 빠른 AI 추론을 위해 칩 외부가 아닌 내부에 고성능 메모리 반도체 ‘S램’을 장착한 반도체를 설계하는 기업 세레브라스와 그로크 등과 협력 방안을 논의했다. 엔비디아 역시 두 기업 인수를 타진해 그로크와 200억달러(약 29조원) 규모의 라이선스 계약을 체결했다. 그로크가 엔비디아와 계약하면서 오픈AI와 협상이 결렬됐고, 세레브라스는 엔비디아의 인수 제안을 거절하고 오픈AI와 직접 계약을 체결했다.

AI 시장 최강자 엔비디아와 오픈AI의 관계 균열은 최근 진행된 오픈AI 투자에도 영향을 미쳤다. 엔비디아는 지난 9월 오픈AI에 최대 1000억달러를 투자할 계획이라고 밝혔다. 이 거래는 몇 주 안에 마무리될 것으로 예상됐지만 협상은 수개월간 지연됐다. 오픈AI는 그동안 AMD 등 다른 반도체 기업과도 계약을 체결했다.

엔비디아와 오픈AI는 불화설을 일축했다. 젠슨 황 엔비디아 최고경영자(CEO)는 최근 불화설에 대해 “터무니 없는 소리”라고 일축하며 투자를 보류하지 않을 것이라고 말했다. 엔비디아는 “대규모 AI 환경에서 최고의 성능과 비용을 제공해 추론 분야 고객들이 엔비디아를 계속 선택하고 있다”고 밝혔다. 오픈AI 대변인도 “오픈AI의 추론 시스템은 대부분 엔비디아 제품으로 구동하고 있다”며 “엔비디아는 추론 분야에서 가격 대비 최고 성능을 제공한다”고 말했다.

로이터는 “오픈AI가 AI 추론용 칩 시장에서 대안을 모색하기로 한 결정은 엔비디아의 시장 지배력에 대한 중대한 시험대”라고 전했다.

김겨레 (re9709@edaily.co.kr)