AI 산업 진입 문턱 낮추는 GPU 종량제 서비스 'HAC' AI반도체 작은 거인 리벨리온과 추론 인프라 서비스 신규 AI 사업 나서려 올해 6000억원 규모 투자 유치 기업가치 4.3조 인정받아..1년새 10배 성장 2025년까지 글로벌 시장 진출
글로 명령하면 그림도 그려주고 코딩도 해주는 생성형AI가 성장하면서 최대 수혜는 클라우드 라는 평가가 나옵니다. 가트너에 따르면 지난해 서비스형 인프라(IaaS) 시장은 전년 대비 29.7% 성장했는데, 생성형AI 덕분에 올해는 더 성장할 전망입니다. 생성형AI에 기반한 애플리케이션 서비스가 활성화되면 서비스형 소프트웨어(SaaS)시장도 급성장할 것으로 보입니다. AI 시대 핵심 인프라는 통신(5G·6G)이 아니라 클라우드인 셈입니다. <편집자주>
윤동식 KT클라우드 대표가 18일 그랜드 인터컨티넨탈 서울 파르나스에서 ‘KT 클라우드 서밋 2023’에서 개회사를 하고 있다. (사진=KT클라우드)
[이데일리 전선형 기자] KT클라우드가 국내 최초로 인공지능(AI) 풀스택(Full-Stack)클라우드 사업자로 진화하고 있다. 글로벌 진출은 2025년부터 본격화할 계획이다.
AI 풀스택이란 AI 반도체 등 인프라부터 고객에게 제공하는 AI 응용 서비스까지 전 과정을 아우르는 제품과 서비스를 의미한다. 이미 AI 반도체(NPU)의 작은 거인 리벨리온과 함께 추론 분야에서 기존보다 5분의 1 이상 비용을 줄인 AI 인프라 서비스를 시작했다. 네이버클라우드 등 경쟁사들보다 빠르다.
KT클라우드는 2021년 AI 산업의 문턱을 낮추기 위해 종량제 AI 인프라 서비스 ‘하이퍼스케일 AI 컴퓨팅(HAC)’을 출시했다. 실 사용량을 기반으로 필요할 때 필요한 만큼 사용할 수 있어 △비용 효율성 △개발 유연성 및 연속성 △프로그래밍 호환성 등이 장점이다.
HAC는 여러 대의 그래픽처리장치(GPU)를 결합해 하나의 GPU처럼 사용하며 AI 모델 대형화에 대응할 수 있는 수백~수천 개의 GPU 클러스터링 자원을 지원한다. 대규모 연산이 필요할 때는 다중, 동적 할당 기술을 통해 원하는 만큼만 GPU 자원을 할당받고, 연산 후 즉시 반납할 수 있어 초거대 AI 언어모델 학습 테스트 결과, HAC은 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 냈다.
지난 6월엔 토종 팹리스(반도체 설계 전문기업) 리벨리온의 ‘아톰’을 적용한 클라우드 기반 NPU(신경망처리장치) 인프라 서비스를 국내 최초로 상용화했다. NPU를 클라우드 기반으로 이용할 수 있도록 플랫폼에 적용했다. 기업 고객들은 전용 포털을 통해 쉽고 간편하게 NPU 기반의 AI 추론을 진행할 수 있다.
클라우드 기반 NPU 인프라는 클릭 몇 번으로 고객이 직접 자원을 생성하고, 연산 세션을 활용해 관리·모니터링 등을 할 수 있다. 구축형 인프라 대비 사용 편의성이 높고, 필요할 때 필요한 만큼 이용할 수 있는 환경을 제공함으로써 AI 분야 기업들의 연구 기관들의 비용 혁신을 돕는다.
NPU 서비스와 더불어 엔비디아 GPU 기반 ‘슬라이싱 기술 활용 서빙 상품’을 다음 달에, ‘동적할당 상품’을 내년 초에 출시하며 AI 클라우드 상품 라인업을 강화할 방침이다.
KT클라우드는 AI 풀스택 사업자로 공공·민간 부문의 신규 AI 사업 추진 등을 위해 올해 국내 업계 최대 규모인 6000억원 규모의 외부 투자를 유치했다. KT로부터 분사하기 전 4000억원에서 4조 3000억원의 기업가치(프리머니 밸류, 투자 전 기업가치)를 인정받은 것이다. 1년 사이에 기업가치가 10배 정도 성장했다.
회사는 전략 사업인 AI 분야 경쟁력 강화를 위해 관련 투자를 확대하고, 내부 역량과 사업/서비스를 고도화한다는 계획이다. 반도체부터 응용서비스까지 아우르는 AI 풀스택을 완성해 2025년까지 글로벌 시장 진출을 목표로 하고 있다.
