엔비디아, 메모리 대폭 늘린 차세대 AI 칩 공개

초당 5TB 속도로 정보 접근… “미친 듯이 추론 가능”
“내년 2분기 양산 시작”
생성형 AI 개발 전용 플랫폼도 곧 출시

젠슨 황 엔비디아 CEO. /로이터연합뉴스

엔비디아가 차세대 인공지능(AI) 칩을 공개하고 내년 2분기부터 양산에 들어간다고 밝혔다.

8일(현지시각) 엔비디아는 미국 로스앤젤레스에서 열린 컴퓨터 그래픽스 콘퍼런스 시그래프에서 차세대 AI 칩 ‘GH200 그레이스 호퍼 슈퍼칩’을 선보였다. GH200은 엔비디아 그래픽처리장치(GPU)와 ARM의 컴퓨터프로세서(CPU)를 하나로 결합한 칩이다. 결합을 통해 정보를 주고 받는 과정을 단축시켜 전력 소비도 줄일 수 있다.

GH200은 엔비디아의 최고급 AI 칩 H100과 같은 GPU와 141기가바이트(GB)의 최첨단 메모리, 72코어 암(ARM) 기반의 CPU를 결합했다. 초당 5테라바이트(TB)의 속도로 정보에 접근할 수 있는 고대역폭 메모리 HBM3e도 탑재됐다.

젠슨 황 엔비디아 최고경영자(CEO)는 “이 프로세서는 이전 모델보다 훨씬 더 강력하다”며 “증가하는 AI 컴퓨팅 파워 수요를 충족시키기 위해 세계 데이터 센터의 규모를 확장하도록 설계됐다”고 설명했다. 엔비디아는 이 ‘슈퍼칩’이 내년 2분기부터 양산될 것이라고 밝혔으며 가격은 공개하지 않았다.

엔비디아는 더 많은 메모리 용량을 지닌 이 칩이 AI 모델의 추론용으로 설계됐다고 밝혔다. 이를 통해 더 큰 규모의 AI 모델도 하나의 시스템에 장착할 수 있다고 설명했다. 황 CEO는 “원하는 거의 모든 대규모 언어 모델을 여기에 넣으면 미친 듯이 추론할 수 있을 것”이라며 “대규모 언어 모델을 추론하는 데 드는 비용도 크게 떨어질 것”이라고 강조했다. GH200가 데이터센터의 소비 전력을 기존 대비 20배 이상 줄여줄 수 있기 때문이다.

현재 엔비디아는 AI 칩 시장의 80% 이상을 점유하고 있으며, 그 뒤를 AMD와 인텔 등이 추격하고 있다. 엔비디아의 경쟁사 AMD는 최근 AI 칩 신제품 ‘MI300X’를 내놓고 최대 192GB의 메모리를 탑재할 수 있다는 점을 강조하기도 했다.

엔비디아는 쉽게 생성형 AI를 개발할 수 있는 플랫폼 ‘AI 워크벤치’(NVIDIA AI Workbench)도 조만간 출시한다고 발표했다. 생성형 AI 개발을 위한 프로젝트 예시들이 구축돼 개발을 쉽게 시작할 수 있고, 엔비디아의 DGX 클라우드는 물론 PC와 클라우드를 넘나들며 프로젝트를 수행할 수 있다. 이 플랫폼은 올 가을 출시될 예정이다.

엔비디아는 또 세계 최대 머신 러닝 플랫폼 허깅페이스(Hugging Face)에 DCX 클라우드를 접목해 전 세계 수백만명의 개발자들이 생성형 AI 슈퍼컴퓨팅에 연결할 수 있도록 지원할 계획이다.

- Copyright ⓒ 조선비즈 & Chosun.com -