“비싼 GPU, 이젠 빌려쓴다”… AI 추론 시대 ‘구독형 GPU’ 경쟁 본격화

삼성SDS, B300 GPU 구독 출시
네카오·통신사도 GPUaaS 주목

인공지능(AI) ‘추론’ 시대가 본격화하면서 값비싼 그래픽처리장치(GPU)를 직접 구매하는 대신 빌려 쓰는 ‘구독형 GPU(GPUaaS)’ 시장이 새로운 격전지로 떠오르고 있다. 삼성SDS를 필두로 네이버 카카오 등 국내 기업들도 앞다퉈 주도권 확보 경쟁에 뛰어드는 양상이다.

삼성SDS는 자사 클라우드 플랫폼 ‘SCP(삼성 클라우드 플랫폼)’를 통해 엔비디아의 고성능 GPU ‘B300’ 기반 GPUaaS를 국내 최초로 출시했다고 23일 밝혔다. B300은 12단 HBM3E(5세대 고대역폭메모리)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB 대역폭을 제공한다. 이는 기존 H100 대비 용량은 3.6배, 대역폭은 2.4배 향상된 수치다. 삼성SDS는 2021년 A100, 2023년 H100 기반 서비스를 선보인 데 이어 B300을 도입하며 GPUaaS 라인업을 계속 확대 중이다.

AI 산업의 핵심 축이 AI 모델을 개발하는 학습 단계를 넘어 대규모 서비스를 실질 운영하는 추론으로 이동하면서 GPUaaS가 새로운 대안으로 급부상하고 있다. 고객이 GPUaaS를 선택하는 가장 큰 이유는 비용 절감 효과 때문이다. H100만 해도 단일 장치가 수천만원에 달하며 대규모 AI 모델 구축을 위해선 시스템 전체 비용으로 최대 수십억원을 투자해야 한다. 이에 비해 GPUaaS로 필요한 만큼만 GPU 자원을 구독할 경우 프로젝트 규모·예산에 맞춰 비용을 감축하면서도 최적의 인프라 환경을 조성할 수 있다.

국내 주요 플랫폼·통신 기업들도 GPUaaS 사업을 미래 먹거리로 주목한다. 네이버클라우드는 ‘각 세종’ 데이터센터를 중심으로 GPU 확보·설계·운영을 아우르는 ‘풀스택 AI 인프라’ 서비스를 제공하고 있다. 지난해 네이버클라우드를 포함한 네이버 엔터프라이즈 부문 매출액이 GPUaaS 서비스 매출에 힘입어 전년 대비 4.3% 증가하기도 했다. 카카오엔터프라이즈는 고객이 GPU를 직접 소유하고 카카오클라우드가 GPU 클러스터 구축 및 운영을 도맡는 ‘하이브리드 GPUaaS’ 모델을 내세우고 있다.

SK텔레콤은 엔비디아 B200 기반인 ‘해인’ GPU 클러스터를 중심으로 GPUaaS 사업 확대에 나서고 있다. KT 역시 전국 16개 데이터센터를 주축으로 ‘K-GPUaaS’ 서비스를 제공 중이다.

시장조사업체 글로벌인포메이션은 전 세계 GPUaaS 시장 규모가 올해 73억6000만 달러에서 2031년 264억3000만 달러(약 40조원)로 급성장할 것으로 내다봤다.

양윤선 기자 sun@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지