“GPU 있어도 전기 없으면 무용지물”…데이터센터에서 확인한 ‘진짜 병목’ [특파원 인사이트]

글로벌 1위 에퀴닉스 데이터센터 가보니

에퀴닉스의 SV10 외부 전경 [에퀴닉스]

“우리를 부동산 회사라고 생각하세요. 나는 공간과 전력, 냉각을 빌려주는 집주인이고 고객은 자기 서버를 들고 들어오는 세입자입니다.”

지난 1일(현지시간) 미국 실리콘밸리 산호세에 있는 에퀴닉스 데이터센터. 취재진을 이끈 빌 스트롱 에퀴닉스 운영총괄 수석부사장은 회사를 이렇게 소개했다.

야후에서 커리어를 시작해 구글 등을 거친 그는 “이 바닥에서 25년 넘게 일했다”고 했다. 전 세계 280여 개 데이터센터를 운영하는 이 회사에서 그는 미주 지역 116개 사이트의 운영을 총괄한다. “케이지(고객 전용 구획)의 사방 벽 바깥은 전부 내 책임이고 안쪽은 고객 책임”이라는 게 그의 설명이다. 델 서버를 쓰든 엔비디아 그래픽처리장치(GPU)를 쓰든 그것은 세입자의 몫이라는 얘기다.

인공지능(AI) 시대가 열리면서 이 ‘집주인’의 역할이 커지고 있다. 과거 데이터센터 사업의 핵심이 서버를 둘 공간과 안정적인 통신망을 제공하는 것이었다면 이제는 막대한 전력을 얼마나 확보하고, 고성능 AI 반도체가 뿜어내는 열을 얼마나 효율적으로 식힐 수 있느냐가 경쟁력이 됐다. 빅테크가 AI 인프라에 수천억달러를 쏟아부으면서 투자도 GPU에서 데이터센터와 전력·냉각 설비로 빠르게 번지고 있다.

스트롱 부사장이 현장에서 반복해서 강조한 것도 GPU가 아니라 ‘전력’이었다. 아무리 많은 GPU를 확보해도 이를 꽂아 돌릴 데이터센터와 전기가 없으면 소용이 없기 때문이다. AI 투자 경쟁의 병목이 반도체 확보에서 전력 확보로 넓어지고 있는 셈이다.

랙 하나가 135kW…20년 새 60배

그 변화를 압축해서 보여주는 곳이 이날 둘러본 에퀴닉스 산호세 캠퍼스였다. 에퀴닉스는 이곳에 20여 년에 걸쳐 데이터센터 네 개를 차례로 지었다. 취재진이 처음 들어선 곳은 2018년 문을 연 SV10이었다. 스트롱 부사장에게 AI가 데이터센터를 어떻게 바꿨느냐고 묻자 그는 “단연 ‘밀도(density)’”라며 “랙 한 대가 감당하는 전력이 완전히 달라졌다”고 답했다.

랙은 서버를 층층이 꽂아 넣는 선반형 장비함을 말한다. 20여 년 전에는 랙 하나당 2킬로와트(kW) 정도면 충분했다. SV10을 지을 당시에도 설계 기준은 5kW 안팎이었다. 하지만 최신 건물의 엔비디아 구역은 랙당 135kW까지 치솟았다. 웬만한 가정 수십 곳이 동시에 쓰는 전력을 서버 선반 하나가 삼키는 수준이다. 20년 새 60배 넘게 늘어난 셈이다.

전력 밀도가 높아질수록 투자 부담은 서버 밖으로 번진다. 전기를 끌어오는 설비부터 이를 분배하는 장치, 서버가 뿜어내는 열을 처리하는 냉각시설까지 함께 바꿔야 하기 때문이다. AI 데이터센터 투자가 GPU에서 전력과 냉각 등 주변 인프라로 확산할 수밖에 없는 이유다.

전력이 몰리면 그만큼 열도 쏟아진다. 열을 식히는 방식을 보기 위해 취재진은 2022년 완공된 최신 건물 SV11로 자리를 옮겼다. 문을 열고 들어서자 소음은 잦아들었지만 공기는 후텁지근했다. AI 서버가 뿜어내는 열기 탓이다.

스트롱 부사장은 “30년 전 네트워크 엔지니어로 일하던 시절엔 데이터센터가 너무 추워서 파카에 장갑까지 껴야 했다”며 “지금은 이렇게 따뜻하다”고 말했다. 서버를 굳이 차갑게 식히지 않아도 될 만큼 냉각 기술이 발전했다는 얘기다.

공기로 못 식히는 AI…칩까지 냉각수 넣는다

SV11 데이터센터 내부의 모습. 굵은 관을 통해 냉각수가 흐른다. [에퀴닉스]

실제로 두 건물은 열을 식히는 방식부터 달랐다. 예전처럼 찬 공기를 불어넣는 방식만으로는 최신 AI 서버의 열을 감당하기 어렵다. 그래서 SV11의 고발열 구역에는 냉각수를 반도체 칩까지 끌고 가 직접 열을 빼내는 ‘액체 냉각’을 적용했다. 가느다란 관을 타고 온 냉각액이 칩마다 파고들어 열을 걷어내는 식이다.

기사 전문은 매일경제신문의 프리미엄 재테크 콘텐츠 플랫폼 매경플러스에서 확인할 수 있습니다. 네이버에서 ‘매경플러스’를 검색하거나, 스마트폰으로 아래 QR코드를 찍으면 연결됩니다.