‘전기 먹는 하마’ AI…일반 알고리즘보다 10배 더 많이 사용

이코노미 인사이트 _ Economy insight
경제의 속살

데이터센터는 AI 시대의 중요한 인프라다. 네이버가 세종시에서 운영하는 데이터센터 ‘각 세종’의 내부 모습. ‘데이터센터 각’ 누리집

▶이코노미 인사이트 구독하기http://www.economyinsight.co.kr/com/com-spk4.html

전세계 누구나 인공지능(AI) 시대를 이야기하지만, AI가 대중화되려면 넘어야 할 산이 많다. 더 정교한 AI 모델도 필요하고, 소비자들이 기꺼이 비용을 지불할 만큼 매력적인 서비스도 있어야 한다. AI를 학습시킬 질 좋은 데이터, 더 효율적인 AI 반도체도 개발돼야 한다.

글로벌 빅테크를 중심으로 한 AI 생태계는 빠르게 발전하고 있고 하루가 다르게 성능이 향상되고 있다. 이런 속도라면 머지않은 미래에 우리가 AI 서비스를 일상적으로 사용하는 날이 올 것 같다. 그런데 AI 산업의 가장 큰 장애물이자 가장 큰 투자가 필요하며, 전 지구적인 영향을 미칠 부분은 잘 다뤄지지 않는다. 바로 전기다.

2024년 11월4일 최태원 에스케이(SK)그룹 회장은 ‘SK AI 서밋 2024’에서 키노트 연설을 진행했다. 최 회장은 AI 시대를 만들어갈 때 병목이 발생할 부분을 지목하고, 어떤 식으로 이를 해결해나갈지에 대한 SK그룹의 방향성을 설명했다. SK그룹이 직접 할 수 있는 부분은 직접 하고, 보완이 필요한 부분은 파트너들과 함께 풀어가겠다는 내용이었다.

SK그룹의 AI 로드맵

예를 들어 초거대언어모델을 구동할 AI 반도체는 SK그룹이 직접 만들고 있지 않다. 이 부분은 전세계 AI 반도체 시장을 사실상 독점한 엔비디아와 협력한다. SK그룹의 SK하이닉스는 AI 반도체의 핵심 부품인 고대역폭메모리(HBM)를 엔비디아에 독점 공급하고 있다. 반도체 제조는 티에스엠시(TSMC)와 함께 풀어간다. HBM을 만드는 것은 SK하이닉스이지만 엔비디아 AI 반도체와 HBM을 하나의 반도체처럼 동작하도록 붙이는 패키징은 대만 TSMC가 한다.

SK그룹이 집중하는 분야는 데이터센터다. AI 데이터 처리에는 엄청난 규모의 반도체가 필요하고, 반도체가 사용할 전력 사용량도 막대하다. SK그룹은 SK이노베이션을 비롯한 에너지 회사가 있고, 데이터센터를 운영하는 SK텔레콤 등의 계열사가 있다. AI 시대에 중요한 인프라가 될 데이터센터 구축은 SK그룹의 AI 로드맵의 일환이다.

얼마나 많은 투자가 필요하길래 데이터센터를 강조하고 있을까? 최태원 회장은 “초거대언어모델(LLM)을 학습시키려면 10GW(기가와트) 규모의 데이터센터가 필요하다. 1GW 규모의 데이터센터를 지으려면 적어도 400억~500억달러(40조∼50조원)가 소요된다”고 말했다. 원자력발전소 1기의 전력 생산량은 약 1GW 규모다. 초거대언어모델을 운영하는 데 무려 원전 10기 규모의 전력을 필요로 한다는 의미다. 1GW에 40조원, 10GW면 400조원이다. 최 회장은 또 “초거대언어모델이 5개 정도가 필요하다”고 덧붙였다. 그러면 50GW, 약 2000조원의 투자가 필요하다는 추산이 나온다.

AI 데이터센터는 현재 우리가 사용하는 데이터센터와는 비교가 안 될 정도로 크다. 한국에서 가장 큰 데이터센터는 네이버가 세종시에서 운영하는 ‘각 세종’이다. ‘각 세종’의 용량은 270MW(메가와트), 면적은 축구장 41개에 해당하는 29만3963㎡다. 1GW 규모의 데이터센터는 단순 계산을 해도 용량이 ‘각 세종’의 4배, 면적은 축구장 160개 규모다.

메타의 최고경영자(CEO) 마크 저커버그도 데이터센터에 대한 고민을 토로한 적이 있다. 저커버그는 “그래픽처리장치(GPU) 부족 현상은 어느 정도 해결됐고 이제 데이터센터 구축이 필요하다. 데이터센터는 자본보다는 에너지 제약에 직면하게 될 것”이라고 말했다. 또 “일반적인 대규모 데이터센터는 150MW 규모인데, AI를 훈련시키는 데이터센터는 500MW 규모로 운영되고, GW까지 필요해지는 것은 시간문제”라고 말했다.

한국 정부가 추정하는 데이터센터 수요를 살펴보자. 2023년 말 기준으로 국내에는 150개의 데이터센터가 있다. 용량은 1986MW, 약 2GW다. 산업통상자원부에 따르면 2029년까지 신규 데이터센터 수요는 732개이며 필요한 전력 용량은 4만9397MW다. 지금보다 데이터센터 수로는 5배, 용량으로는 23배가 더 필요하다. 국회 입법조사처는 2029년까지 기업들이 요청한 대로 데이터센터를 지을 경우 1GW급 원전 53기를 추가로 건설해야 한다고 설명했다.

발전소만 짓는다고 전력을 공급할 수 있는 것은 아니다. 전기를 전송할 송전, 변전소와 배전단 변압기도 증설해야 한다. 2022년 전국 배전단 변압기 용량은 13만9265MVA(메가볼트암페어)이고, 수도권 용량은 4만6372MVA이다. 송배전 인프라는 사용할 것으로 예상하는 전력에 더해 1.5배 정도 여유를 둬야 한다.

AI, 전기 10배 더 써

2029년 신규 데이터센터의 전력 수요를 충당하기 위해 필요한 변압기 용량은 약 7만MVA로, 현재 전국에 설치된 변압기의 절반이 넘는 규모의 변압기를 신규로 설치해야 한다. 수도권은 현재 설치된 용량의 134%를 증설해야 한다. 데이터센터를 만들려면 돈도 많이 들지만, 전기를 만들고 전기를 전송할 전력망을 구축하는 게 더 큰 문제다.

데이터센터는 24시간 가동해야 하므로 재생에너지가 생산하는 전기를 사용할 경우 이를 저장해 안정적으로 공급하는 에너지저장시스템(ESS) 등이 필요하다. 오스트레일리아 남부 제임스타운에 있는 테슬라의 100MW(메가와트)급 리튬이온 에너지 저장시스템. 연합뉴스

똑같은 문제를 풀어도 AI는 일반 알고리즘보다 전기를 10배 더 쓴다. 구글에서 검색하면 0.3Wh(와트시)를 사용하는데 챗지피티(ChatGPT)로 검색하면 약 10배에 달하는 2.8Wh를 사용한다. 답을 도출하는 방식이 다르기 때문이다. 현재 검색 시스템은 사용자가 검색 키워드를 입력하면 그에 적합한 웹페이지를 찾아 보여주는 방식이다. 반면에 생성형 AI는 사용자가 질문하면 답을 스스로 만들어낸다. 한 단어(토큰)를 만들 때마다 모델을 한번 다 읽어야 한다. 1조8천억 개의 파라미터(GPT4 기준)를 읽어 들여야 한다. 파라미터당 1바이트로 계산해도 1.8테라바이트의 데이터를 0.1초만에 처리해야 한다는 것이다.

게다가 최근 AI 모델은 글자뿐 아니라 영상, 음성 등 멀티미디어로 입력하고 생성하는 멀티모달로 나아가고 있다. 국제에너지기구(IEA)가 추산한 2026년 데이터센터 전력 사용량은 지금보다 3대 경제 대국인 일본이 하나 더 생기는 것만큼 필요하다.

양적인 문제도 어마어마하지만 질적인 문제는 더욱 해결하기 어렵다. 그렇게 많은 전력을 어떤 에너지로 생산할 것인지가 문제다. 만약 석탄·천연가스 등 화석연료로 전력을 생산하면 인류가 공동으로 머리를 맞대며 대응하는 기후위기 문제를 더욱 심화시킬 수 있다. 태양광, 풍력 등 재생에너지로 공급하는 게 최선이다. 하지만 이 막대한 규모의 전력을 재생에너지로만 공급하는 게 가능할지 장담할 수 없다.

또 데이터센터는 24시간 가동해야 하는데, 간헐성이 문제다. 태양이 뜰 때만 전력을 생산하는 태양광, 바람이 불 때만 전력을 생산하는 풍력만으로는 데이터센터가 원하는 양질의 전력을 충당할 수 없다. 재생에너지가 생산하는 전기를 저장해 안정적으로 공급하는 에너지저장시스템(ESS), 수소 등도 필요하다.

또 다른 대안은 원자력이다. 원자력은 대규모로 전력을 생산할 수 있고 공급의 안정성도 높다. 하지만 한국에 지금 설치된 원전보다 2배 많은 원전을 짓겠다고 하면, 국민이 동의할까? 수십 년간 안전 문제로 원전을 짓지 않았던 미국, 유럽 국가들이 AI 회사들을 위해 원전을 짓겠다고 하면 국민이 동의할까?

‘SK AI 서밋’에서 최태원 회장은 이 부분에 대한 고민을 언급했다. 최 회장은 “전력 문제는 전력량과 전력망, 탄소배출 등 3가지 문제를 해결해야 한다. 재생에너지도 만들고 수소도 하고 가스 발전, 터빈도 한다. 하지만 이것으로도 충분하지 않다”고 말했다.

SK그룹은 수소연료전지를 활용해 전력을 생산하는 블룸에너지, 빌 게이츠가 투자한 소형원자로(SMR) 기업 테라파워에 투자해 돌파구를 모색하고 있다. 데이터센터 전용 무탄소 발전 및 전력망을 구축해 전력 발전량, 송배전, 탄소배출 문제를 해결하겠다는 구상이다. 다만 수소연료전지는 아직 경제성을 확보하지 못했고 소형원자로는 실제 운영이 가능한지 검증된 바 없다.

기후위기 부추긴다는 지적도

AI는 인류가 직면한 수많은 문제를 해결해줄 것으로 기대된다. 그러면서 다른 한편으로는 인류가 직면한 가장 해결하기 힘든 문제인 기후위기를 더욱 부추기는 문제에 직면해 있다. 빅테크 기업들은 모두 어떻게든 친환경 전력으로 데이터센터 문제를 해결해보고자 노력한다. 이런 와중에 미국 제47대 대통령으로 도널드 트럼프가 당선됐다. 트럼프 대통령은 각종 친환경 산업을 지원하지 않겠다는 입장을 진작에 밝혔다. AI의 선도자들은 AI의 기술적 문제와 함께 기후위기 극복을 위한 에너지 확보라는 두 마리 토끼를 잡을 수 있을 것인가. 쉽지 않은 문제다.

권순우 〈삼프로TV〉 취재팀장 soon@3protv.com