열 4배 뿜는 엔비디아 칩, 이젠 공기 아닌 물로 식힌다

AI 가속기 ‘액체 냉각 방식’ 각광

AI 가속기 블랙웰 소개하는 젠슨 황 - 지난 6월 대만 타이베이에서 열린 엔비디아 키노트 행사에서 젠슨 황 최고경영자(CEO)가 최신 AI 가속기 블랙웰이 탑재된 서버 컴퓨터를 소개하고 있다. 엔비디아는 블랙웰 서버의 발열을 잡기 위해 액체 냉각 방식을 도입했다. /스레드

엔비디아가 데이터센터의 핵심 부품인 인공지능(AI) 가속기의 차세대 모델 ‘블랙웰’에 액체 냉각 방식을 도입한다. 고대역폭 메모리(HBM)와 그래픽 처리 장치(GPU) 등으로 구성된 AI 가속기는 천문학적 데이터를 빠르게 처리하는 기능을 하지만, 발생하는 열이 고질적인 문제로 지적된다. 기존 제품은 공기로 열을 식히는 ‘공랭식’이 적용된다. 하지만 차세대 모델은 연산 성능이 좋아졌지만, 열 방출량도 기존 대비 4배 가까이 늘었다. 이 때문에 공기보다 냉각 성능이 좋은 액체를 사용하기로 한 것이다. 엔비디아는 지난 24일 “블랙웰을 액체 냉각 기반으로 설계하며, 이를 통해 데이터센터 소모 전력을 최대 28%까지 줄일 것으로 예상한다”고 밝혔다.

AI 시대 필수 인프라인 데이터센터의 전력 소모를 줄이기 위해, 기업들이 ‘열과의 전쟁’에 액체 냉각 방식을 본격적으로 사용하기 시작했다. 데이터센터 총 사용 전력의 절반 가까이(45%)가 서버의 온도를 20~25도로 유지하는 데 쓰인다. 열을 잡지 않으면 반도체 성능이 떨어지고 수명도 줄어들기 때문이다. 현재 널리 쓰이는 찬 바람을 활용한 서버 냉각 방식(공랭식)이 전기를 많이 쓰고, 공간을 많이 차지하고 성능이 떨어지자, AI 가속기를 물이 흐르는 파이프로 식히고, 더 나아가 특수 용액에 담그는 ‘수랭식’을 속속 채택하고 있다. 앞으로 고성능 AI 가속기가 탑재된 서버는 액체 냉각이 필수가 되면서, 이 시장도 계속 커질 전망이다.

그래픽=양인성

◇불덩이 엔비디아 칩, 물로 식힌다

수랭식은 크게 두 가지로 나뉜다. 첫째는 서버 속에 혈관같이 파이프를 설치하고, 차가운 용액을 끊임없이 흘려보내 칩에서 발생하는 열을 식혀주는 방식이다. 에어컨 역할을 하는 냉각 팬을 설치할 필요가 없어 소음이 거의 없다. 엔비디아의 블랙웰도 이 방식을 채택했다. 엔비디아는 “열을 식히고 나온 온수를 전력 생산 등 다른 용도에 활용하는 방안을 연구 중”이라고 했다.

‘액침 냉각’도 있다. 여러 대의 AI 가속기를 연결한 서버 컴퓨터를 방수 처리한 뒤 특수 용액에 담가 쓰는 것이다. 이 방식은 공간과 전력 소모 모두를 줄일 수 있는 방식으로 꼽힌다. 공랭식은 공기가 순환할 수 있는 빈 공간이 필요해, 천장을 높이고 서버 간 간격도 넓어야 한다. 하지만 액침 냉각은 서버를 더 빽빽하게 설치할 수 있다. RSI 데이터센터 건설 컨설팅 자료에 따르면, 액침 냉각 방식은 공랭식과 비교해 서버 공간은 90%, 소모 전력(냉각)은 90% 적은 것으로 나타났다.

다만 아직까지 수랭식은 서버 구축과 관리 비용이 비싼 것이 단점이다. 모건스탠리에 따르면, 엔비디아의 블랙웰 서버용 냉각 시스템 비용은 서버 한 대당 8만달러(약 1억964만원)다. 공랭식이 적용된 기존 제품인 H100 냉각 비용의 15~20배에 이른다. 서버 업계는 “수랭식은 공간과 열 관리를 효율적으로 할 수 있고, 값비싼 AI 가속기를 열로 인한 손상 없이 더 오래 쓸 수 있어 장기적으로는 이득이 될 수 있다”고 말했다.

◇국내 기업들도 참전

액체 냉각 시장도 갈수록 커질 전망이다. 월스트리트저널에 따르면 액체 냉각 시장은 2027년까지 48억달러(약 6조3800억원)로 지금보다 두 배 이상 성장할 전망이다. 국내 기업들도 액체 냉각 방식을 적극적으로 도입하거나 시장에 뛰어들고 있는 추세다. 특히 정유, 석유화학 계열사를 가진 SK, GS, 한화, HD현대가 액침 냉각의 핵심인 냉각유 시장에 적극 진출하고 나섰다. GS칼텍스는 지난해 11월 액침 냉각 전용 윤활유를 출시했으며, 에쓰오일과 HD현대오일뱅크는 올해 상반기 액침 냉각 사업에 뛰어들며 제품 개발에 들어갔다.

SK그룹은 윤활유 자회사 SK엔무브를 앞세워 액침 냉각 시장에 도전하고 있다. 특수 냉각유를 활용해 냉각 시스템을 구축하는 방식이다. 그룹사인 SK텔레콤의 데이터센터에 액침 냉각 시스템을 구축하고 테스트 진행 중에 있다. SK텔레콤은 “기존 공랭식 대비 냉방 전력의 93%, 서버 전력 10% 이상이 절감돼 총 전력이 37% 절감됐다”고 했다. 기업용 냉난방 공조 시장에 진출한 LG전자도 액침 냉각 기술을 확보하고 도입을 저울질하고 있다.