엔비디아·리벨리온 최신칩..KT클라우드, GPU 서비스 힘준다

3분기 엔비디아 H200 기반 GPUaaS 출시
리벨리온 차세대 NPU '아톰 맥스' 지원 예정
KT의 MS 애저 전환 따라 외부 CSP 사업 확대 필요
CSAP 획득 앞세워 공공·금융 시장 공략

[이데일리 임유경 기자] KT클라우드는 엔비디아와 리벨리온의 최신 AI 칩을 확보해 구독형 GPU 서비스(GPUaaS) 경쟁력을 강화하고 있다. 이는 급증하는 고성능 GPU 인프라 수요를 흡수하기 위한 전략으로, AI 시장의 성장에 대응하는 움직임이다. KT가 MS 애저를 도입함에 따라 내부 거래에서 클라우드 서비스(CSP) 비중이 줄면서 KT클라우드로선 외부 사업 확대가 더욱 중요해졌다.

[이데일리 김정훈 기자]

20일 KT클라우드는 ‘AI 사업 및 GPUaaS’ 웨비나에서 “엔비디아 H200을 기반으로 한 GPUaaS를 곧 출시할 예정”이라고 밝혔다. KT클라우드는 AI 학습과 추론 두 분야에서 강력한 인프라를 제공한다는 점을 강조했다.

AI 학습 전용 인프라는 엔비디아 H200을 서비스하는 ‘AI 트레인’이 책임진다. 이는 인기 오픈소스 거대언어 모델(LLM) 라마2 70B(파라미터 700억개)를 처리할 때 전작 H100 대비 2배에 가까운 성능을 자랑한다.

AI 추론 인프라를 위해서는 국내 AI 반도체 기업 리벨리온과 협력해 ‘AI 서브 NPU’를 제공한다. 올해는 리벨리온과 함께 KT 클라우드 내 NPU 기술 지원 전담 조직을 신설, 클라우드 인프라에서 NPU 성능과 사용성을 향상시킬 예정이다. 또한, 5월에 출시되는 리벨리온의 최신 칩 ‘아톰 맥스’를 기반으로 한 NPU 인프라도 검증 후 상품군에 추가할 계획이다.

정미진 KT클라우드 AI 사업팀 팀장은 “리벨리온의 NPU는 200종 이상의 오픈소스 생성형 AI 모델을 지원하고 있다”며, “비전 중심에서 벗어나 생성형 AI 서비스까지 지원할 수 있도록 성능을 지속 검증하고 사용 편의성을 높여갈 계획”이라고 말했다.

회사는 자체 클라우드 기술을 활용해 최신 GPU 인프라의 성능과 비용 효율성을 높였다고 강조했다. AI 트레인은 동적 자원 할당 기술을 통해 GPU 비용 부담을 줄였다. 타사들은 서버 생성부터 삭제까지 전체 시간에 대해 과금하는 반면, KT클라우드는 실제 GPU 연산 시간에 대해서만 요금을 부과해 사용 비용을 절감할 수 있다고 설명했다.

KT클라우드는 올해 3분기 경북 예천군에 클라우드 전용 데이터센터(CDC)를 개소하며 GPUaaS를 본격 확대할 예정이다. 경북 센터 개소로 청주 인공지능 데이터센터(AIDC)와 용산 수도권 데이터센터를 포함해 총 3개의 고집적 AI 데이터센터를 운영하게 된다.

올 3분기 경북 데이터센터가 오픈하면 KT클라우드는 총 3개의 고집적 AI 데이터센터를 운영하게 된다.(이미지=KT클라우드)

아울러 KT가 MS와 협력을 강화하며 클라우드 인프라를 MS 애저 기반으로 전환 중이고, 이 과정에서 KT클라우드는 클라우드 운영관리(MSP) 역할을 맡고 있다. 이에 따라 GPUaaS를 중심으로 외부 클라우드서비스(CSP) 매출을 확장하는 것이 올해의 주요 사업 목표로 떠오르고 있다. 정미진 팀장은 “KT클라우드는 민간과 공공 분야에서 다양한 AI 사업 추진 경험을 보유하고 있는 것이 강점”이라며 “향후 NPU 인프라도 정부 클라우드보안인증(CSAP)를 받아 공공 기관에서도 활용할 수 있도록 지원할 예정”고 강조했다.

한편 KT클라우드에 따르면 2024년에는 NIPA 고성능 컴퓨팅 지원 사업에 참여한 국내 CSP 중 가장 많은 400여 개의 AI 스타트업들을 사용자로 유치했다. 또한 태국 자스민 그룹과의 협력을 통해 태국어에 특화된 초거대 LLM을 구축해 곧 서비스 오픈을 앞두고 있다. KT클라우드의 지난해 매출은 전년 대비 15.5% 증가한 783.2억 원을 달성했다.

임유경 (yklim01@edaily.co.kr)