김명국 “AI 데이터센터 인프라 확보전, 10년 뒤 국가 위상 달려 있어” [SFF 인터뷰]

[인터뷰] 김명국 SKT GPUaaS사업 담당
“비전문가도 개발하는 시대, 생존 무기는 ‘AI 리터러시’”

(시사저널=허인회 기자)

김명국 SKT GPUaaS사업 담당(부사장) ⓒSKT 제공

연일 사상 최고치를 경신 중인 주식 시장의 거대 흐름을 견인하는 중심에는 단연 인공지능(AI)이 있다. AI에 대한 폭발적인 수요는 이제 GPU(그래픽처리장치) 확보와 AI 데이터센터(AIDC) 구축 경쟁으로 옮겨가고 있다. AI라는 거대한 파도를 타기 위해 전 세계가 사활을 건 인프라 전쟁에 돌입했기 때문이다.

치열한 변화의 최전선에서 SK텔레콤의 AI 클라우드 사업을 이끌고 있는 김명국 SKT GPUaaS사업 담당(부사장)은 "인프라 사업자로서 느끼는 현재 산업계 분위기는 '뭔가 터지기 직전'의 폭풍 전야와 같다"며 "AI라는 건물을 짓기 위해 누가 먼저 튼튼하게 땅을 다져놓느냐에 따라 5년, 10년 뒤 대한민국의 국가 위상이 완전히 달라질 것"이라고 강조했다. 막대한 비용이 드는 GPU 인프라를 클라우드로 제공하는 'GPUaaS'를 무기로 대한민국 AI 산업의 뼈대가 될 '슈퍼 하이웨이'를 닦고 있는 김 부사장을 5월7일 SKT 본사에서 만나, 우리 기업과 국가가 직면한 현실과 21세기 생존 전략을 들어봤다.

최근 AI 업계의 핵심 화두로 떠오르고 있는 'GPUaaS' 사업은 구체적으로 어떤 서비스인가.

"GPUaaS는 수억원에서 수십억원을 호가하는 초고가 AI 인프라인 GPU를 기업이 직접 소유하지 않고, 필요한 수량과 기간만큼 클라우드 형태로 임대해서 쓰는 서비스다. 엔비디아가 제공하는 최신 GPU는 워낙 도입 비용이 막대할 뿐만 아니라, 1~2장으로는 제 성능을 낼 수 없다. 수천 장에서 많게는 만 장 단위의 GPU를 묶어 하나의 거대한 시스템처럼 활용해야만 연산 능력이 극대화되고, 같은 양의 데이터를 더 빠르고 정교하게 처리할 수 있다. 아울러 '규모의 경제'를 실현하지 않으면 비용 구조를 효율적으로 낮출 방법이 없다. 개별 기업이 감당하기 힘든 인프라 투자를 전문 사업자가 대신 대규모로 구축하고, 이를 효율적으로 운영해 임대하는 방식이 바로 GPUaaS 사업의 핵심이다."

이 시장의 현재 규모와 향후 성장 전망은 어떻게 분석하고 있나.

"AI 모델을 구동하는 '토큰(Token) 사용량'이 불과 15개월 만에 13배나 폭증했다. 이는 시장의 수요가 얼마나 가파르게 팽창하고 있는지 보여주는 단적인 지표다. 전 세계 GPUaaS 시장 규모는 2026년 약 60억 달러(약 8조8000억원)에서 2033년에는 259억 달러(38조원) 규모로 4배 이상 폭발적으로 성장할 것으로 전망된다. 국내 시장 역시 올해 약 2600억원 수준에서 2033년에는 8500억원 규모로 커질 것으로 예측하고 있다. 이에 따라 현재 글로벌 시장에서는 코위브(CoreWeave), 람다 랩스(Lambda Labs) 등 GPU만 전문적으로 취급하는 사업자들과 기존 AWS, 마이크로소프트, 구글 등 전통적 클라우드 사업자들이 치열한 각축전을 벌이고 있다."

AI 패권 경쟁 속에서, 우리나라의 인프라 준비 상황은 어느 정도 수준인가.

"미국과 중국이 양분하고 있는 시장 구조 속에서, 한국은 프랑스, 영국 등과 더불어 나름의 독자적 파운데이션 모델(Foundation Model)을 갖춘 몇 안 되는 국가 중 하나다. 자국어 기반의 포털 사이트를 보유하고, 독자적인 검색과 거래 데이터를 학습해 파운데이션 모델을 만든 나라는 전 세계적으로 드물기 때문이다. 하지만 인프라 측면에서는 다소 아쉬운 것이 사실이다. 현재 정부가 예측하는 100조원 규모의 AI 수요를 감당하기에는 확보된 GPU 인프라가 5분의 1 수준에 불과하다. 시급한 문제는 막대한 자금을 들여 엔비디아 GPU를 수만 장 확보하더라도 당장 이를 설치하고 가동할 'AI 데이터센터'가 턱없이 부족하다는 점이다."

AI 데이터센터 확충이 더디게 진행되는 이유는 무엇인가.

"국토 면적이 넓은 미국은 텍사스나 버지니아와 같은 곳에 데이터센터를 1층으로 넓게 조성하면 된다. 그러나 한국은 좁은 국토 특성상 건물을 위로 올려야 하고 토지 용도 변경 등 각종 규제가 촘촘하다. 게다가 AI 데이터센터는 막대한 전력을 소모하기 때문에 송배전 시설을 끌어와야 하는데, 이 과정에서 얽힌 수많은 이해관계자를 설득하는 데 엄청난 시간이 소요된다. 이런 이유로 해외에서 AI 데이터센터 건설에 드는 기간이 15개월 수준인데 비해 한국에선 최소 30개월이 소요된다. 속도로 대변되는 현재의 AI 전쟁에서 치명적인 약점이다. 정부가 추진 중인 'AI 데이터센터 특별법' 등을 통해 불필요한 규제를 걷어내고 빠르게 인프라를 구축할 수 있는 마중물을 시급히 마련해야 한다.(인허가 절차를 간소화하고 입지 및 시설 증축을 위한 규제를 완화하는 'AI 데이터센터 산업 진흥에 관한 특별법'은 5월7일 국회 본회의를 통과했다.)"

통신사로 잘 알려진 SK텔레콤이 대규모 AI 인프라 사업에 힘을 쏟는 이유는 무엇인가.

"AI 데이터센터 사업은 본질적으로 기존 통신사 사업 모델과 굉장히 유사하다. 통신사는 전국에 대규모 거점 네트워크를 깔고, 이를 장애 없이 최고 효율로 관리하는 압도적인 '운영 역량'을 보유하고 있다. 데이터센터 사업 역시 전국 단위의 거점을 확보하고 글로벌 해저 케이블과 연결하며 전력과 시스템을 효율적으로 통제하는 것이 핵심이다. 기존의 네트워크 역량에 GPU를 얹어 부가가치를 극대화하는 GPUaaS 사업을 진행할 수 있는 이유다. 향후 거점별 대형 데이터센터와 자율주행, 지역 특화 서비스를 위한 소규모 엣지형(Edge) 데이터센터를 그물망처럼 연결하는 'AI 슈퍼 하이웨이(AI Super Highway)'를 구축해 국가 AI 인프라의 근간을 다지는 것이 목표다."

GPUaaS란 인프라 위에서 어떤 결과물이 나올 수 있나.

"현재 주목하는 분야는 방산과 피지컬 AI(Physical AI)다. 한국의 전차와 미사일은 세계 최고 수준으로 평가받고 있다. 그러나 이를 운용하는 지휘 통제 시스템에 외산 AI를 도입하면 안보 데이터 유출이라는 치명적인 위험에 빠질 수 있다. 반대로 국산 AI 인프라에 파운데이션 모델을 개발한다면 안보 위협에서 벗어날 수 있다. 이에 더해 파운데이션 모델까지 결합한 무기체계를 보유한다면 하드웨어뿐만 아니라 소프트웨어 생태계까지 함께 패키지로 수출할 수 있는 기회가 열릴 수 있다. 제조업 가운데 조선업도 마찬가지다. 한국은 물론 미국, 캐나다 등 글로벌 조선소들이 모두 숙련된 용접공 부족에 시달리고 있다. 한국 조선소 숙련공들의 노하우(암묵지)를 AI로 체득시켜 로봇이나 자동화 공정에 이식한다면, 미국 현지 조선소에서도 한국과 동일한 퍼포먼스를 낼 수 있다. 이것이 진정한 의미의 기술 경쟁력 수출이자, 산업 AX(AI 전환)의 궁극적 지향점이다."

AI가 급속도로 확산하면서 일자리 감소 우려 목소리도 크다.

"현장에서 느끼는 변화는 '일자리의 소멸'이라기보다는 '퍼포먼스의 비약적 확장'에 가깝다. SKT 내부만 보더라도 개발 조직의 풍경이 완전히 달라졌다. 과거에는 기획자 1명에 개발자 8명이 붙어야 했다면, 지금은 기획자 1명과 개발자 2명이 AI 코딩 툴을 활용해 기존보다 훨씬 더 많은 양의 프로젝트를 소화해 낸다. AI를 활용해 작업 속도를 높이고 새롭게 창출한 시간 속에 더 다양한 업무를 수행할 수 있게 됐다. 업무 영역의 경계도 허물어지고 있다. 일례로 입사 2년 차 문과 출신 신입사원이 바이브 코딩을 스스로 공부해 서비스 포털을 PC용과 모바일용으로 뚝딱 만들어냈다. 예전 같으면 예산을 들여 용역을 맡겨야 하고 개발에도 시간이 걸리는 작업을 비전문가가 해낼 수 있는 시대가 된 것이다. 그 직원은 이제 더 다양한 시도를 해볼 것이고, 그것이 자신의 가치를 높일 것이다. 결국 AI를 어떻게 활용하느냐에 따라 개인의 가치가 달라질 것이다."

AI 대격변기 속 기업과 개인은 어떤 준비를 해야 하나.

"대학생인 제 자녀들에게도 늘 '유료 AI 서비스를 돈 아끼지 말고 최소 2개 이상 적극적으로 써보라'고 조언한다. AI 기술은 무서운 속도로 발전하기 때문에, 지금 당장 완벽한 정답을 찾기보다 이 도구와 '친밀도(AI 리터러시)'를 높이는 것이 무엇보다 중요하기 때문이다. 기업도 마찬가지다. 중소·중견기업들은 처음부터 거창하고 어려운 과제를 해결하려 하기보다, 상대적으로 접근하기 쉽고 즉각적인 효과를 체감할 수 있는 영역부터 AI를 도입하는 것이 좋다. 이를 통해 AI에 대한 심리적 장벽을 낮추고 익숙해지면서 다른 영역으로 확대하는 방향으로 나아가야 한다. 'AI 리터러시'를 높이는 것과 더불어 '인문학적 소양'을 기르는 것이 그 어느 때보다 중요해질 것입니다. 이제는 1 더하기 1을 2로만 보는 것이 아니라, 3이나 4가 될 수 있다는 비판적 사고가 필요하다. 그것이 개인의 가치와 경쟁력을 가르는 잣대가 될 것이다."

2026 시사저널 미래포럼(SFF)이 오는 5월26일 페어몬트 앰배서더 서울 그랜드볼룸에서 개최됩니다. '말하는 AI' 를 넘어 '움직이고 실행하는 AI'의 시대로 진입하면서, 인공지능은 화면을 벗어나 현실을 직접 움직이기 시작했습니다. 피지컬 AI와 에이전틱 AI가 산업과 경제의 운영 구조 자체를 재편하고 있는 지금, 새로운 경제 질서가 구축되고 있습니다. SFF는 'AI 대전환'의 현장을 입체적으로 조망하고, 미래 전략을 모색하는 공론의 장이 되고자 합니다. 포럼에 앞서 국내외 AI 선도 기업과 전문가들이 제시하는 인사이트를 미리 들여다봤습니다.