엔비디아, MS·오픈AI에 ‘블랙웰’ 공급...SK하이닉스 HBM3E 탑재

이상덕 기자(asiris27@mk.co.kr) 2024. 10. 11. 11:48
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

엔비디아는 블랙웰(Blackwell) 시스템을 마이크로소프트와 오픈AI에 공급한다고 11일 밝혔다.

이날 엔비디아는 "마이크로소프트 애저가 GB200 기반 AI 서버를 갖춘 블랙웰 시스템을 구동하는 첫 클라우드 솔루션 제공업체가 됐다"고 설명했다.

엔비디아의 DGX B200 시스템은 5세대 NV링크(NVLink)로 상호 연결된 8개의 블랙웰 GPU를 탑재해, 이전 세대인 DGX H100 대비 훈련 성능은 3배, 추론 성능은 15배 향상됐다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

마이크로소프트, 애저에 블랙웰 탑재
오픈AI, DGX B200 샘플 최초 수령
블랙웰 GPU로 LLM 워크로드 30배 가속
AI 슈퍼컴퓨팅 성능, 혁신적 향상 제공
엔비디아가 오픈AI에 제공한 DGX B200
엔비디아는 블랙웰(Blackwell) 시스템을 마이크로소프트와 오픈AI에 공급한다고 11일 밝혔다. 블랙웰 공급은 이번이 처음이다.

이날 엔비디아는 “마이크로소프트 애저가 GB200 기반 AI 서버를 갖춘 블랙웰 시스템을 구동하는 첫 클라우드 솔루션 제공업체가 됐다”고 설명했다. 마이크로소프트 애저는 인피니밴드(Infiniband) 네트워킹과 폐쇄 루프 액체 냉각 기술을 활용, 세계에서 가장 발전된 AI 모델을 구동할 수 있는 시스템을 최적화하고 있다. 인피니밴드는 고속 데이터 전송을 위한 네트워크 기술로 일반적인 네트워크보다 훨씬 빠르고 안정적으로 대량의 데이터를 주고받을 수 있는 장점이 있다. 또 폐쇄 루프 액체 냉각 기술은 전자 장치에서 발생하는 열을 제거하는 방식 중 하나로, 냉각액이 장치 내부를 순환하면서 열을 흡수한 후 다시 냉각되는 시스템을 가리킨다.

사티아 나델라 마이크로소프트 최고경영책임자(CEO)는 “우리는 엔비디아와의 오랜 파트너십과 심층적인 혁신으로 업계를 선도하며 가장 정교한 AI 워크로드를 지원하고 있다”고 공식 소셜미디어 X 계정을 통해 말했다.

GB200 그레이스 블랙웰 슈퍼칩은 72개의 블랙웰 GPU와 36개의 그레이스 CPU를 연결한 멀티 노드 수냉식 랙 스케일 솔루션이다. 해당 시스템은 대규모 언어 모델(LLM) 워크로드에 최대 30배 빠른 추론을 제공하며, 수조 개의 파라미터 모델을 실시간으로 실행할 수 있는 괴물 시스템이다.

엔비디아는 블랙웰(Blackwell) 시스템을 마이크로소프트와 오픈AI에 공급한다고 11일 밝혔다. 블랙웰 공급은 이번이 처음이다.
이날 엔비디아는 오픈AI에도 블랙웰 DGX B200의 첫 엔지니어링 샘플을 공급했다. 오픈AI는 최신 DGX B200 플랫폼을 통해 AI 훈련에 블랙웰 B200 데이터센터 GPU를 사용할 예정이다. 엔비디아는 이와 관련해 오픈AI에 제공한 DGX B200 시스템의 이미지를 공식 X 계정을 통해 공개했다.

엔비디아의 DGX B200 시스템은 5세대 NV링크(NVLink)로 상호 연결된 8개의 블랙웰 GPU를 탑재해, 이전 세대인 DGX H100 대비 훈련 성능은 3배, 추론 성능은 15배 향상됐다. 이를 통해 LLM, 추천 시스템, 챗봇 등 다양한 AI 워크로드를 효과적으로 처리할 수 있어, 기업의 AI 혁신을 가속화할 수 있다.

SK하이닉스는 엔비디아에 5세대 HBM(HBM3E)을 사실상 독점으로 공급하고 있다. 올 3월 HBM3E 8단 제품을 엔비디아에 납품했고, 지난 달 말에는 12단 신제품을 세계 최초로 양산하기 시작했다. 블랙웰 GPU에는 SK하이닉스는 신제품이 탑재돼 있다.

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

이 기사에 대해 어떻게 생각하시나요?