서버랙 한 대에 '60억'…독파모 키우는 1조원 현장 가보니

NHN 서울 양평동 AI 데이터센터 르포

6일 서울 양평동 NHN 데이터센터 내부에 그래픽처리장치(GPU)가 담겨 있는 랙이 줄지어 서 있다. NHN 제공

데이터홀 입구 선반에는 귀마개가 놓여 있었다. 6일 찾은 서울 영등포구 양평동 NHN 팩토리X 서울. 6층 데이터홀 문이 열리자 수천 개의 팬이 한꺼번에 돌아가는 소리가 복도까지 밀려나왔다. 동행한 이일준 NHN클라우드 사업부장은 "그래픽처리장치(GPU)가 뿜어낸 열을 식히는 소리"라고 설명했다. 국내 기업들이 독자 인공지능(AI) 파운데이션 모델을 학습시키는 데 쓰는 GPU가 실제로 돌아가고 있는 현장이다.

이 건물은 3층부터 10층까지가 데이터홀이다. NHN클라우드는 이 중 3~6층을 쓴다. 3~5층은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 조성한 정부 AI 컴퓨팅 자원이 들어선 공간이다. 장비 소유권은 국가에 있고, NHN클라우드는 5년간 운영만 맡았다. 6층은 기업 고객용 자체 AI 클라우드 공간이다. 이곳에 깔린 엔비디아 B200 GPU는 총 7656장. 3층과 4층에 나뉘어 설치된 4080장(510노드)은 고속 네트워크로 묶여 하나의 연산 환경처럼 작동한다. 이 클러스터(NIPA-CL1)는 글로벌 슈퍼컴퓨터 성능 순위 TOP500에서 20위로 국내 1위에 올랐다.

 랙 하나가 반포 아파트 한 채

데이터홀 안 검은 철제 랙은 언뜻 커다란 서버 캐비닛처럼 보였다. 랙 한 대에 GPU 서버 6대가 들어가고, 그 아래에는 멀티탭 역할을 하는 전력분배장치가 깔려 있다. 이 랙 하나를 구축하는 데 60억원 안팎이 든다. 서울 강남 아파트 한 채 값을 웃돈다. 3~6층에 들어간 장비를 모두 합치면 1조원에 이른다. 지난해 정부가 1조4700억원 규모로 발주한 AI 컴퓨팅 인프라 사업에서 NHN클라우드가 1조원어치를 가져간 결과다.

랙 아래쪽에는 모티브에어 열교환기가 붙어 있었다. 건물 외부 냉각기에서 들어온 물이 이 장치를 거쳐 열을 주고받고, 서버 안으로는 물이 아닌 냉매가 흘러 들어간다. 서버 내부에 물이 직접 닿지 않도록 회로를 한 단계 끊어 놓은 구조다. 냉매는 GPU와 CPU에 밀착된 콜드플레이트를 지나며 열을 빼앗아 나온다.

랙 앞쪽 '콜드아일'로 찬 공기가 들어가 서버를 통과한 뒤 뒤쪽으로 빠져나가고 있었다. 관계자는 "찬 공기와 더운 공기가 섞이지 않도록 랙 열(列) 사이를 확실히 막아주는 것이 관건"이라고 했다. 데이터홀은 25도, 습도 30% 안팎으로 유지된다. 한계 온도는 27도다. 습도까지 관리하는 이유에 대해 이 사업부장은 "지나치게 건조하면 정전기가 발생해 회로에 영향을 준다"고 설명했다.

수랭 전환은 선택이 아니라 예고된 수순이다. 그는 "지금의 B200은 공랭으로도 버티지만, 내년에 들어올 베라 루빈부터는 전부 수랭이어야 한다"고 말했다.

데이터홀은 생각보다 비어 보였다. 랙 사이 간격이 넓고 빈 구역도 눈에 띄었다. 이유는 전기였다.

일반적인 데이터센터는 랙 한 대당 30㎾를 기준으로 설계한다. 이곳은 이를 75㎾까지 끌어올렸다. 그런데도 바닥 면적이 남는다. 관계자는 "GPU는 촘촘하게 붙여 놓을수록 에러율이 낮아지기 때문에 집적도를 높이는 게 유리하다"며 "더 높이고 싶어도 끌어올 전기가 없어 넓게 배치할 수밖에 없었다"고 했다. 건물 수전 용량은 20㎿, 이 중 NHN클라우드가 IT 장비에 쓰는 몫은 13㎿다. 공간보다 전력이 먼저 바닥나는 구조다.

데이터센터 통합관제실에서 담당자들이 데이터홀의 온도와 습도, 전력 사용량, 냉각설비 가동 상태 등을 실시간으로 점검하고 있다. NHN 제공

 수랭 설비 공사에만 5개월

수랭은 돈과 시간을 함께 요구했다. 공랭식보다 설비 투자가 많이 들고 공사 기간도 길다. NHN클라우드가 이 센터를 연 것은 올해 3월로, 지난해 안에 문을 연 네이버·카카오보다 늦었다. 이 사업부장은 "수랭 설비 구축에만 5개월이 걸렸다"며 "설비가 끝나야 GPU 서버를 넣을 수 있는 구조라 밀릴 수밖에 없었다"고 했다.

에너지 효율 지표인 전력사용효율(PUE)는 설계 기준 1.34다. 냉각에 쓰는 물은 한여름 하루 1000t 규모로 설계됐다. 도심 입지의 한계도 있다. 그는 "친환경 설비를 갖추려면 여러 조건이 필요한데 도심에서는 갖추기 어렵다"며 "이 센터는 그런 부분을 고려해 설계되지는 않았다"고 말했다.

민간에 배정된 물량은 이미 동났다. 다 팔렸고 줄까지 서 있다는 것이 NHN클라우드 측 설명이다. 그러면서도 시선은 다음 세대 장비에 가 있었다. 이 사업부장은 "GPU 효율이 지금보다 올라가면 같은 전력으로 더 많은 장비를 넣을 수 있다"며 "집적도는 앞으로 계속 올라갈 것"이라고 말했다.

이영애 기자 0ae@hankyung.com