kt클라우드, 'AI인프라' HAC 서비스 제공…"비용 낮고 간편해"

대규모 GPU 클러스터 가상화
'이루다' 개발사 스캐터랩, HAC 활용 사례 발표

(사진 왼쪽부터) kt cloud 김정진님, 정보통신산업진흥원 박정호 수석님, 스캐터랩 최기원님

[이데일리 정다슬 기자] kt클라우드(대표이사 윤동식)가 국내 인공지능(AI) 기업, 연구기관 및 대학교에 ‘HAC’(Hyperscale AI Computing) 서비스를 제공한다.

kt클라우드는 지난 19일 서울 강남구 코엑스에서 열린 ‘2022년 하반기 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업’ 보고회에서 이같은 발표를 했다고 20일 밝혔다.

초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업은 정보통신산업진흥원(NIPA)이 2021년부터 연간 240억 규모로 추진한 ‘고성능 컴퓨터 지원사업’의 일환이다. 국내 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원사업은 지난 9월부터 12월까지 78억원 규모로 진행됐다. 이날 보고회에는 NIPA 및 정부 관계자, kt클라우드, KT, 네이버 등의 사업 지원사, AI 챗봇 ‘이루다’ 개발사 스캐터랩 등 사업 참여사 관계자가 참석했다.

kt클라우드의 HAC는 대규모 GPU 클러스터를 가상화해 AI 연산·개발 과정에서 필요한 대규모 GPU 자원을 동적으로 할당·반납하는 독자적인 기술을 바탕으로 구현된다. 대규모 GPU 인프라 자원을 별도의 구축없이 필요할 때 필요한 만큼만 사용할 수 있다. 이를 통해 초거대 AI를 연구·개발하는 대기업은 물론, 독자적으로 대규모 GPU 인프라 구축과 운영이 어려웠던 AI 스타트업과 대학교 및 연구기관에서 보다 쉽게 이용할 수 있다.

kt클라우드 관계자는 “필요한 만큼의 대규모 GPU를 바로 빌려 쓸 수 있어 비즈니스 민첩성을 확보할 수 있고, GPU 할당 기준이 아닌 연산 실행 시 사용된 시간만큼만 요금이 부과되어 경제성이 우수하다”며 “동일한 수량의 자원을 30~50% 합리적인 가격으로 이용하거나, 동일한 비용으로 약 2배 이상의 기간까지 연구·개발 할 수 있다”고 설명했다.

개발자는 GPU 수량을 실시간으로 스케일인·아웃(Scale-in·out) 할 수 있어 유연한 개발 환경을 보장받을 수 있다. 또한 서비스 내 내장된 컴파일러가 멀티 GPU 분산 및 최적화 기능을 대행해 모델 프로그래밍간 우수한 호환성으로 개발 및 운용의 부담을 줄여 준다.

실제 금번 사업에 지원한 관계 지향형 AI챗봇 ‘이루다’를 개발한 스캐터랩은 성과 보고회에서 HAC를 통해 초현실적 규모의 규모의 컴퓨팅 자원을 활용할 수 있었고 같은 비용으로 훨씬 짧은 시간 안에 학습을 완료해 서비스를 고도화할 수 있었다고 밝혔다.

kt클라우드는 대기업, 스타트업, 연구기관 등 다양한 분야에서 HAC를 활용해 AI 연구·개발을 할 수 있도록 대규모 GPU팜(Farm) 구축을 지속 확대할 방침이다. 경제적이고 효율적인 서비스를 통해 AI 비즈니스 다각화에 앞장서며, 향후 AI 반도체를 직접 개발해 인프라, 하드웨어, 소프트웨어의 경쟁력을 모두 갖춘 AI 풀스택 (full-stack) 사업자로 거듭난다는 목표다.

남충범 kt클라우드 클라우드본부장은 “HAC은 AI 연구와 서비스 개발에 반드시 필요했던 대규모 GPU 자원 활용이 쉬워진 반면, 비용 부담은 획기적으로 줄여 초거대 AI 개발 기업 및 연구 기관에 매우 유용한 서비스이다. 향후 지속적인 대규모 인프라 확충과 다양한 분야와의 협업으로 대한민국 초거대 AI 산업 성장을 선도하겠다”고 밝혔다.

정다슬 (yamye@edaily.co.kr)