AI 서비스 개발 더 저렴하게.. KT, 클라우드로 GPU 제공

KT가 인공지능(AI) 서비스 개발과 모델 분석을 기존보다 저렴하게 진행할 수 있는 클라우드 기반의 GPU 인프라 제공 서비스 ‘하이퍼스케일 AI 컴퓨팅’을 출시했다고 10일 밝혔다. 

KT와 AI 인프라 솔루션 전문기업 ‘모레’와의 협력 결과로 나온 ‘하이퍼스케일 AI 컴퓨팅’은 고비용의 GPU 인프라를 동적 할당 방식으로 제공하는 실 사용량 기반 종량제 서비스다. AI 서비스 전문기업이나 개발자는 원하는 시점에 원하는만큼 GPU 자원을 할당받아 사용하고 반납하면 된다.

KT에 따르면 대규모 GPU 인프라는 AI 응용 서비스 개발을 위한 데이터 분석과 AI 모델 개발에 필수다. 그러나 전체 개발 기간이 아닌 데이터 분석, 모델 학습 등에만 활용하면 된다. KT 클라우드 서비스는 이에 착안해 필요한 기간에만 GPU를 빌려쓸 수 있도록 했다. 그만큼 비용을 줄일 수 있다.

현재 GPU 시장은 특정 벤더의 독과점 이슈 등으로 비용이 높게 형성돼 있어 기업에 부담이 되고 있다. AI 서비스 개발과 운용이 필요한 기업들은 자체적으로 GPU 팜(컴퓨터 서버와 운영시설을 모여놓은 곳)을 구성하거나 CSP(클라우드 서비스 공급자)로부터 고정 할당 방식의 인프라 서비스를 이용해야만 했다. 고정할당 방식은 GPU 이용료를 고정적으로 지불해, GPU가 필요없는 기간에도 비용이 나가는 단점이 있다. 

하이퍼스케일 AI 컴퓨팅은 또 원하는 때 필요한만큼 GPU 수량을 확장하거나 줄일 수 있도록 했다. 멀티 GPU 환경을 제공해 모델 프로그래밍 호환성도 갖췄다.

KT와 모레는 이번 상품 출시에 이어 내년에는 초대규모 GPU 팜을 구축할 예정이다. 2023년에는 전용 AI 반도체 칩을 제작해 GPU 기술 국산화를 추진한다.

KT는 출시를 기념해 내년 2월까지 GPU 인프라를 무상제공하는 프로모션을 진행한다. 이용을 원하는 고객은 가상머신(VM) 이용 비용만 지불하면 된다.

KT 클라우드/IDC사업추진실장 윤동식 부사장은 “하이퍼스케일 AI 컴퓨팅 출시로 대한민국의 AI서비스 개발 시장과 문화 패러다임을 변화시킬 수 있을 것으로 기대된다”며 “앞으로도 AI 전문 기업들과의 협력을 강화해 대한민국 AI개발자들이 활발하게 활동할 수 있는 생태계를 구현하기 위해 노력하겠다”고 말했다.

송은아 기자