KT클라우드, 슬라이싱 GPU 기반 AI 인프라 서비스 출시

"경제성·성능·호환성 강화"
"비용 부담은 ↓"
"AI 스타트업 부담 절감…AI 생태계 확장 노력"

KT클라우드 모델들이 'AI SERV'를 소개하고 있다. KT클라우드 제공

[파이낸셜뉴스] KT클라우드가 인공지능(AI) 추론에 특화된 그래픽처리장치(GPU) 인프라를 사용량에 맞게 합리적인 비용으로 활용할 수 있도록 지원하는 인프라 서비스를 선보인다.

KT클라우드는 이 같은 기능을 지닌 AI 추론 전용 인프라 서비스 'AI SERV(AI 서브)'를 출시했다고 16일 밝혔다. 슬라이싱 기술을 GPU에 적용한 점이 특징이다.

AI 서브는 AI 개발·학습을 마치고 AI 서비스를 제공 중인 AI 전문기업, 스타트업 등이 고성능 GPU 인프라를 각 서비스에 필요한 만큼 분할해 최적이 양을 사용할 수 있도록 지원하는 것이 특징이다. KT클라우드는 "비용 효율성뿐 아니라 성능, 호환성 등 추론 영역에서 가장 중요한 조건까지 갖추고 있어 추론형 AI 인프라 시장의 혁신을 이끌 것으로 기대된다"고 설명했다.

KT클라우드가 AI 서브에 적용한 슬라이싱 기술은 기존에 한장으로 제공되던 GPU 서비스를 5분할해 0.2장 단위로 제공한다. 필요한 때 필요한 만큼의 인프라를 사용할 수 있어 가격 부담이 줄어들고, 다양한 상황에 맞춰 탄력적인 활용이 가능하다는 설명이다.

이외에도 KT클라우드는 엔비디아 A100칩을 활용, 경쟁사의 최신 추론형 인프라 서비스 대비 연산 속도를 최소 2배가량 높였다. 엔비디아 쿠다(CUDA) 아키텍처 기반의 높은 호환성과 확장성도 강점이다고 KT클라우드는 강조했다.

KT클라우드는 향후 AI 서브에 사용자의 손쉬운 인프라 확장 지원을 위한 모니터링 및 컨테이너 이미지 클로닝(Cloning) 기능 등을 추가하는 한편, 부하 발생 시 인프라를 자동 확장시키는 '오토 스케일링' 기능을 도입하는 등 서비스를 지속적으로 고도화해 나갈 계획이다.

윤동식 KT클라우드 대표는 "이번 AI 서브 출시로 고객들이 AI 학습부터 추론, 서빙 환경 구성까지 각 단계에서 최적의 인프라를 보다 합리적인 비용으로 사용할 수 있게 됐다"며 "다양한 AI 전문기업, 스타트업들이 부담없이 AI 인프라를 활용하도록 힘쓰는 한편, 국내외 파트너사와 협력해 초거대 AI 산업의 활성화 및 생태계 확장을 위해 지속 노력할 것"이라고 말했다.
#AI #인프라 #GPU #KT클라우드 #슬라이싱