[이경배의 디지털 레볼루션] AI 시대에 최적화된 'AI 데이터센터'

이경배 연세대·성균관대 겸임교수

일반적인 데이터센터는 내진 설계된 창문 없는 건물, 빽빽하게 들어 찬 고가 컴퓨터나 통신장비, 대형 스크린이 있는 종합상황실 등이 있다. 두 개 변전소에서 20㎿ 이상 전기를 수전하고, 랙 하나에 1.5~3㎾의 전기를 공급하며, PUE 1.3~1.6을 목표로 한다. 기계실에는 이중마루로 냉방과 케이블을 설치하고 22도 전후 온도를 유지한다. 지하에는 정전에 대비해 5~10분간 사용할 수 있는 무정전 전원 공급장치(UPS)와 디젤 발전기 시설을 갖췄다.

데이터센터는 'IDC(Internet Data Center)'로 불리우다 클라우드 환경이 확산되면서 'CDC(Cloud Data Center)'로 지칭되고 있다. 최근 인공지능(AI)이 발전하면서 AI용 머신러닝과 'Gen AI 서비스'를 전담하는 AI 데이터센터까지 등장했다.

최근 데이터센터 전문업체가 세계에서 운영 중인 AI 데이터센터는 가장 신속하고 저렴하게 센터를 신축하고 그 이후 안정적 운영을 위해 본사에서 제작된 '데이터센터 기본 설계 가이드'를 준수한다. 고성능 GPU 서버 운영을 위해 수전용량 150㎿ 이상 확보하며, 랙 하나에 7~12㎾ 전기를 공급하고, 전력효율사용(PUE) 목표는 1.15~1.3, 각 층에는 약 3~5분 용량 UPS와 48시간 이상 연속 운전이 가능한 발전기가 설치된다. 이중마루는 없고 모든 케이블은 상층부 트레이를 이용한다. 32~45도 고온에서 서버가 가동되기 위해 열기통로 차폐시스템이나 서버 종류별 격벽 설치 등 모든 시설이 모듈화 돼 있다.

세계에는 약 8000개 데이터센터가 있다. 서버를 가동하고 거기에서 나오는 열을 식히기 위해 엄청난 양 전기와 물이 사용된다. 오픈AI의 챗GPT는 텍스트 검색 1회당 약 25원 비용이 발생한다. 동영상을 만드는 AI는 텍스트보다 61배나 더 비싼 비용이 필요하다. 이는 막대한 컴퓨팅에 따른 데이터센터 전기료가 대부분이다. 국제에너지기구(IEA)에 따르면 2020년 세계 데이터센터의 전력 소비량은 약 200~250TWh로 세계 전력 수요의 약 1%에 달한다. 오는 2030년에는 약 8%를 차지할 것으로 전망했다. 산업통상자원부에 따르면 우리나라 데이터센터 전력수요는 2022년 1762㎿에서 2029년 4만9397㎿로 폭증할 전망이다.

데이터센터의 효율 지표 중 PUE는 서버·통신장비가 소비하는 총 전기량을 1로 보고, 그 외에 냉난방비, 사무실 전력 등에 소비 되는 전력을 합한 수치다. 과거에는 PUE가 1.6 수준이었다. 최근 신축 데이터센터는 1.15에서 1.35를 목표로 한다. PUE를 낮추기 위해 외기를 직접 사용하거나 물과 냉방기를 혼용해 사용한다. 전기와 물 사용을 줄이기 위해 바람, 호수나 바닷물을 사용하고 액침냉각방식이나 소형모듈원자로(SMR) 설치가 검토되는 등 친환경 에너지를 활용한 그린 데이터센터를 지향한다.

최근 마이크로소프트와 오픈AI, 아마존, 구글은 향후 수년간 340조원이라는 막대한 금액을 AI 데이터센터 구축에 투자한다고 발표했다. 또 젠슨황 엔비디아 최고경영자(CEO)는 “AI가 경제의 근본적 변화를 이끄는 원동력이며, 블랙웰은 새 산업혁명을 이끄는 엔진이 될 것”이라며 기존 반도체 칩의 2.5배인 2080억개 트랜지스터로 구성된 '블랙웰'을 발표했다. 이 블랙웰이 서버에 탑재되면 지금보다 처리 속도가 몇배 빨라짐은 물론 많은 발열이 예상되므로 데이터센터는 지금보다 더 많은 전기와 물이 필요해진다.

데이터센터에는 최소한 시설 관리자만 상주하고, 클라우드·컴퓨터 전문기술진은 본사에 근무하면서 원격으로 다수 데이터센터를 운영한다. 데이터센터에 사고가 발생하면 사회적으로 미치는 파장이 크므로 산업 안전과 화재 사고에 대비한 충분한 방호와 방재가 필요하다.

AI가 더 발전하고 로봇이나 자율주행차가 상용화되며 모든 사물이 컴퓨터에 연결되면 컴퓨팅 수요는 폭발적으로 증가한다. 데이터센터 또한 더 많이 필요하다. 데이터센터를 유치하는 정부나 지자체는 전기와 물 부족을 심각하게 고려하는 반면 지역 고용효과는 미미하다는 것도 인식해야 한다.

이경배 연세대·성균관대 겸임교수 kb.lee@yonsei.ac.kr