엔비디아, MS·오픈AI에 ‘블랙웰’ 공급...SK하이닉스 HBM3E 탑재
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
엔비디아는 블랙웰(Blackwell) 시스템을 마이크로소프트와 오픈AI에 공급한다고 11일 밝혔다.
이날 엔비디아는 "마이크로소프트 애저가 GB200 기반 AI 서버를 갖춘 블랙웰 시스템을 구동하는 첫 클라우드 솔루션 제공업체가 됐다"고 설명했다.
엔비디아의 DGX B200 시스템은 5세대 NV링크(NVLink)로 상호 연결된 8개의 블랙웰 GPU를 탑재해, 이전 세대인 DGX H100 대비 훈련 성능은 3배, 추론 성능은 15배 향상됐다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
오픈AI, DGX B200 샘플 최초 수령
블랙웰 GPU로 LLM 워크로드 30배 가속
AI 슈퍼컴퓨팅 성능, 혁신적 향상 제공
이날 엔비디아는 “마이크로소프트 애저가 GB200 기반 AI 서버를 갖춘 블랙웰 시스템을 구동하는 첫 클라우드 솔루션 제공업체가 됐다”고 설명했다. 마이크로소프트 애저는 인피니밴드(Infiniband) 네트워킹과 폐쇄 루프 액체 냉각 기술을 활용, 세계에서 가장 발전된 AI 모델을 구동할 수 있는 시스템을 최적화하고 있다. 인피니밴드는 고속 데이터 전송을 위한 네트워크 기술로 일반적인 네트워크보다 훨씬 빠르고 안정적으로 대량의 데이터를 주고받을 수 있는 장점이 있다. 또 폐쇄 루프 액체 냉각 기술은 전자 장치에서 발생하는 열을 제거하는 방식 중 하나로, 냉각액이 장치 내부를 순환하면서 열을 흡수한 후 다시 냉각되는 시스템을 가리킨다.
사티아 나델라 마이크로소프트 최고경영책임자(CEO)는 “우리는 엔비디아와의 오랜 파트너십과 심층적인 혁신으로 업계를 선도하며 가장 정교한 AI 워크로드를 지원하고 있다”고 공식 소셜미디어 X 계정을 통해 말했다.
GB200 그레이스 블랙웰 슈퍼칩은 72개의 블랙웰 GPU와 36개의 그레이스 CPU를 연결한 멀티 노드 수냉식 랙 스케일 솔루션이다. 해당 시스템은 대규모 언어 모델(LLM) 워크로드에 최대 30배 빠른 추론을 제공하며, 수조 개의 파라미터 모델을 실시간으로 실행할 수 있는 괴물 시스템이다.
엔비디아의 DGX B200 시스템은 5세대 NV링크(NVLink)로 상호 연결된 8개의 블랙웰 GPU를 탑재해, 이전 세대인 DGX H100 대비 훈련 성능은 3배, 추론 성능은 15배 향상됐다. 이를 통해 LLM, 추천 시스템, 챗봇 등 다양한 AI 워크로드를 효과적으로 처리할 수 있어, 기업의 AI 혁신을 가속화할 수 있다.
SK하이닉스는 엔비디아에 5세대 HBM(HBM3E)을 사실상 독점으로 공급하고 있다. 올 3월 HBM3E 8단 제품을 엔비디아에 납품했고, 지난 달 말에는 12단 신제품을 세계 최초로 양산하기 시작했다. 블랙웰 GPU에는 SK하이닉스는 신제품이 탑재돼 있다.
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- “아이에 대해 처음 밝히는데 내 딸도 사실”…배우 채시라 ‘깜짝고백’ - 매일경제
- 오늘의 운세 2024년 10월 11일 金(음력 9월 9일) - 매일경제
- “현금 68억 감쪽같이 사라졌다”…창고지기까지 있었다는데 대체 누가? - 매일경제
- 정용진의 꿈 '세상에 없던 테마파크'… 톰 크루즈가 힘 싣는다 - 매일경제
- [한강 단독 인터뷰] 창밖은 고요합니다…고단한 날에도 한 문단이라도 읽고 잠들어야 마음이 편
- “한국서 누가? 차라리 일본車 사지” 욕해서 미안…이 가격엔 ‘미친 아빠차’ [카슐랭] - 매일
- “빵지순례로 빵 떴다”…어마어마한 성심당 효과, 도시 순위도 바꿨다는데 - 매일경제
- [속보]한은, 기준금리 3년2개월만에 인하…3.50%→3.25% - 매일경제
- “수억원 벌 기회 날렸다”…청약통장 바꿨다가 날벼락 맞은 사연은 - 매일경제
- 12번째 A매치서 데뷔골 작렬! 요르단 끝낸 오현규 “너무 오래 걸렸어, 더 많은 골 넣을 것” - MK