"고객사 소유 GPU, 저희가 운영해 드립니다" 카카오클라우드 하이브리드 GPUaaS ‘주목’

이재한 카카오엔터프라이즈 클라우드사업본부장
"내년부터 AI 추론 비용이 학습 비용 추월할 것"
‘하이브리드 GPUaaS’로 수익성 개선 방안 제시

이재한 카카오엔터프라이즈 부사장. 카카오엔터프라이즈 제공

"인공지능(AI) 분야도 이젠 효율성을 최우선하는 분위기다. '카카오클라우드'의 차별화된 연결성과 고유의 서비스는 그래픽처리장치(GPU) 등 AI인프라 또한 멀티·하이브리드 방식으로 효율적으로 활용할 수 있도록 지원한다."

이재한(사진) 카카오엔터프라이즈 클라우드부문 사업본부장(부사장)은 디지털타임스 인터뷰에서 자사 서비스형 GPU(GPUaaS) '하이브리드 GPUaaS'에 대해 이같이 소개했다. 회사가 지난 9월 출시한 이 솔루션은 최신 GPU 구매부터 데이터센터, 전력, 통합·관리, 확장까지 AI인프라 도입 전반을 카카오클라우드로 통합 지원한다.

특히, 고객이 직접 구매한 GPU를 카카오엔터프라이즈 데이터센터 내에 구축해 카카오클라우드 인프라에 연동해 사용하는 구조가 특징이다. 고객이 GPU를 그대로 자산으로 소유하면서 카카오클라우드가 GPU 클러스터 구축·운영을 맡는 형태다. 이 부사장은 "코로케이션 서비스야 이미 널리 존재하지만 이런 서비스를 구현해 하나의 콘솔로 관리할 수 있게 한 것은 우리가 처음으로 안다"고 말했다.

카카오엔터프라이즈가 하이브리드 GPUaaS를 선보인 배경에는 AI인프라 비용 이슈가 있다. 이 부사장은 "내년에는 AI 추론에 드는 비용이 AI 학습 비용을 추월할 전망"이라며 "AI서비스가 더 많이 이용될수록 추론에 소요되는 클라우드 비용이 급증, 기업·기관들의 적자폭도 커지는 구조적인 문제에 직면할 가능성이 높다"고 짚었다.

이 부사장에 따르면 기업·기관들이 AI 학습·추론을 위한 온프레미스 환경을 마련하기엔 클러스터 구축, 상면 확보, 운영 등의 부담이 크다. 이 부사장은 "하이브리드 GPUaaS는 이런 고민을 해결하고자 내놓은 솔루션이다. 불확실한 초기개발·기술검증(PoC) 단계에선 클라우드로 투자 리스크를 최소화하고, 본격적으로 AI서비스를 확대할 때는 GPU 자산화로 수익성을 개선할 수 있다"고 설명했다.

카카오클라우드는 하이브리드 GPUaaS 고객 대상으로 데이터센터 상면부터 전력, 냉각, 고성능 네트워크, 소프트웨어 설치까지 GPU 클러스터 구축에 필요한 전 과정을 담당한다. 회사에 따르면 카카오클라우드 하이브리드 GPUaaS의 총소유비용(TCO)에 비교하면 기존 퍼블릭 클라우드 GPUaaS 이용은 33%, 온프레미스 GPU 클러스터 구축은 11% 더 많이 든다.

하이브리드 GPUaaS는 고객사 가상프라이빗클라우드(VPC) 연동을 통해 온프레미스나 외부 시스템 내 데이터 연계 및 AI 워크플로우 통합도 지원한다. AI인프라가 추가로 필요할 경우엔 기존 카카오클라우드 GPUaaS로 확장해 민첩하고 유연하게 활용할 수 있도록 제공한다.

아울러 카카오가 축적해온 슈퍼컴퓨팅 역량을 바탕으로 동일한 GPU도 더욱 효율적으로 성능을 끌어내는 한편, 구현방식 특성상 고객사들이 염두에 둘 보안성과 사용편의성엔 더욱 역량을 집중한다고 회사는 강조했다. 이로써 전력·공간 문제로 고민이 깊었던 대학·연구기관과 GPU 수급에 어려움을 겪는 AI서비스 기업들에 해법을 제시한다는 구상이다.

이 부사장은 "하이브리드 GPUaaS를 통해 클라우드와 온프레미스의 장점만을 결합했다. 클라우드의 유연성과 온프레미스의 경제성을 동시에 충족할 수 있는 현실적 방안"이라며 "현재는 대기업들 중심으로 서비스를 공급하고 있고, AI 추론 서비스가 본격적으로 확산되는 내년부터는 금융권을 비롯해 다양한 분야로 이용이 확대될 것으로 기대한다"고 말했다.

카카오엔터프라이즈는 AI서비스 개발·운영을 돕는 서비스형 플랫폼(PaaS), 서비스형 소프트웨어(SaaS)를 카카오클라우드에 지속 추가하며 하이브리드 GPUaaS를 뒷받침한다는 계획이다. 이 부사장은 "AI 플랫폼 고도화에 집중하고 있고, 앞으로는 여러 곳에 흩어져있는 GPU 자원의 관리를 일원화할 수 있는 방향으로 발전시켜나갈 계획"이라고 밝혔다.

멀티클라우드로서도 하이브리드 GPUaaS를 적극 앞세울 계획이다. 이 부사장은 "카카오클라우드는 연결성이 가장 큰 장점 중 하나이고, 국내 클라우드서비스공급자(CSP) 중 멀티클라우드를 가장 적극적으로 지향한다"며 "고객들이 다양한 국내외 클라우드 서비스를 자사 하이브리드 GPUaaS와 함께 활용할 수 있도록 지원을 확대해나갈 방침"이라 부연했다.

이 부사장은 국내 AI산업 생태계 발전을 위해선 AI전환(AX)과 함께 다양한 AI서비스가 활성화될 필요가 있다고 강조했다. "좋은 엔진을 만들어도 자동차 등에 쓰이지 않으면 의미 없듯, 국내에서 개발한 AI모델 등을 활용할 수 있는 스타트업 등에 대한 투자와 관심도 필요하다"며 "이들을 어떻게 지원할지, 여기서 클라우드가 어떤 역할을 해야할 지에 대해서도 고민해볼 시점"이라 덧붙였다.

팽동현 기자 dhp@dt.co.kr