엔비디아, 차세대 AI칩 H200 나왔다…"속도 두 배"

엔비디아가 인공지능(AI) 모델을 훈련하는 데 전문적인 새 연산 처리제품 'H200'을 공개했다.

13일(현지시간) 엔비디아는 H200이 직전 AI 전문화 모델인 H100의 업그레이드 버전이라며 생성형 AI 언어모델에 사활을 건 빅테크들의 수요가 높을 거라고 예상했다.

CNBC는 투자은행 레이몬드 제임스 추산에 따라 구모델인 H100 가격이 2만 5000~4만 달러 사이라고 전했다. 생성형 AI 프로그램을 개발하고 훈련이 가능한 프로세스 모델을 만들려면 수천 개의 관련 제품이 쓰여야 한다. 생성형 AI 모델 사업을 벌이는 대기업이 마이크로소프트 이외에 알파벳과 아마존, 메타 등 몇 안되는 이유도 바로 이런 투자금이 최소 수천억원에서 조단위까지 필요하기 때문이다. 성공할지 실패할지도 모르는 사업에 조단위 자금을 집중할 수 있는 기업은 지구상에 많지 않다.

신제품 H200은 이른바 'HBM3'라는 메모리가 탑재된 것이 차별점이다. 이 메모리를 통해 처리장치는 '추론 작업'을 수행하거나 텍스트나 이미지 또는 예측을 생성하도록 훈련된 후 대규모 모델을 만들어내 수 있다. HBM3의 저장규모는 141GB다.

엔비디아는 H200이 H100보다 거의 두 배 빠른 출력을 낼 것이라고 자신했다. 이 결과는 메타의 테스트를 기반으로 한다. H200은 내년 2분기부터 출시될 예상인데 시장에서는 AMD의 MI300X GPU와 경쟁할 것으로 보인다. AMD의 이 제품도 추론을 실행하기 위한 하드웨어 체계를 갖췄다.

엔비디아는 H200이 구모델 H100과 호환될 것이라고 밝혔다. 이는 이전 모델로 훈련하고 있는 AI 회사가 새 버전을 사용하기 위해 서버 시스템이나 소프트웨어를 변경할 필요가 없다는 의미다.

하지만 H200의 시장성이 그리 높지 못할 거라는 우려도 나온다. 엔비디아가 새로운 아키텍처로 만든 또다른 신제품을 연이어 내놓을 가능성이 높아서다. H100과 신제품 H200은 둘 다 엔비디아의 하퍼(Hopper) 아키텍처를 기반으로 한다.

엔비디아는 곧 블랙웰(Blackwell) 아키텍처를 기반으로 하는 신제품을 내놓을 예정이다. 블랙웰 방식으로 처리장치를 설계할 경우 성능의 퀀텀 점프가 기대된다는 것이다. 엔비디아는 이와 관련해 'B100'이라는 이름의 칩을 내년에 발표할 예정이다.

뉴욕=박준식 특파원 win0479@mt.co.kr