KT클라우드, NPU 넘어 PIM까지…"AI 풀스택 달린다"

18일 KT클라우드 서밋 2023 개최
클라우드형 AI 서비스로 비용·전력효율성 확보

윤동식 KT클라우드 대표가 18일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023' 행사에서 기조연설을 하고 있다. /최문정 기자

[더팩트｜최문정 기자] KT클라우드가 인공지능(AI) 대전환 시대에 맞춰 고객 맞춤형 인프라를 제공해 기업과 사회의 디지털전환(DX)에 이바지하겠다고 밝혔다. 아울러 다양한 기업들과의 협업을 통해 AI 연산에 최적화된 신경망처리장치(NPU) 칩을 개발하며 'AI풀스택'에도 속도를 낸다는 구상이다.

KT클라우드는 18일 그랜드 인터컨티넨탈 서울 파르나스에서 'KT클라우드 서밋 2023'을 개최했다. 이날 행사는 클라우드 산업의 핵심 기술과 전략, 산업 동향 등을 소개하는 자리로 꾸려졌다.

이날 키노트 연사로 등장한 윤동식 KT클라우드 대표는 "오픈AI의 AI챗봇 '챗GPT'로 촉발된 기업의 AI 전환을 위해 초거대AI, 고객 맞춤형 클라우드, 회복력 있는(Resilient) 인프라 등 3가지 요소가 필수적이다"라며 "KT클라우드는 초거대 AI 학습·추론에 필요한 반도체팜을 클라우드로 제공하는 하이퍼스케일 AI 컴퓨팅(HAC)' 서비스로 국내 기업들의 AI 인프라 확보에 대한 고민을 덜겠다"고 선언했다.

윤 대표는 AI 시대로의 대전환이 이뤄지고 있음에도 대부분의 기업들이 비용과 보안 등의 현실적인 문제로 자체 AI 경쟁력 확보가 어려운 상황이라고 진단했다. 또한 약 1750억 개의 매개변수(파라미터)를 학습해 AI 모델을 고도화시킨 오픈AI만큼 일반 기업들이 데이터를 입수할 수 없는 점도 AI 연구·개발 과정의 어려움으로 꼽힌다.

윤 대표는 "마이크로소프트(MS)가 챗GPT를 만든 오픈AI에 10조 원 이상을 투자했다. 그런 돈이 없어서 AI를 개발하지 못한다면 그것이야말로 디지털 격차다"라며 "학습비용과 추론비용을 혁신적으로 감소시켜야 (빅테크 규모가 아닌) 일반 회사도 자사 데이터를 이용해 AI 개발을 할 수 있고, 그래야만 진짜 AI시대라고 할 수 있다"고 밝혔다.

'전기먹는 하마'로 불리는 AI 연산을 위한 전력 소모량도 문제가 된다.

윤 대표는 "예를 들어 기존 KT 서비스를 위해 도입된 데이터센터 전체 랙(선반)에서 1년 간 소모한 전력이 수백 킬로와트 정도였다면, AI는 같은 기간에 몇 메가와트를 사용한다"며 "전 세계적으로 AI로 소모하는 전력량이 거의 한계에 달했다고 한다. 비용과 전력이 효율적인 AI 인프라가 절실히 필요하다"고 짚었다.

윤동식 KT클라우드 대표가 18일 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023'에서 클라우드형 AI 서비스 개념에 대해 설명하고 있다. /최문정 기자

KT클라우드가 제시하는 해법은 필요한 만큼만 AI 인프라를 대여해 사용하는 클라우드형 AI 서비스와 신경망처리에 최적화된 AI 반도체를 적용해 전력 효율성을 확보하는 것이다.

기존에는 개별 기업이 AI 서비스를 준비하며 알아서 그래픽처리장치(GPU) 등 필요 인프라를 명확한 기준 없이 구매해왔다. 직접 예상 GPU 자산을 예측할 수 없었기 때문이다. KT클라우드는 금융, 공공, 기업, 일반 기업 등 각 사의 특성에 맞춰 서비스를 제공한다. GPU 용량을 점차 늘려가며 최적화된 용량을 산정하고, 이를 클라우드로 제공하는 방식이다. 실제로 대화형 AI 서비스 '이루다'를 서비스하는 스타트업 스캐터랩 역시 KT클라우드의 자산을 사용해 실시간 서비스를 준비하고 있다.

아울러 KT클라우드는 전력 효율성을 확보하기 위해 AI 연산에 특화된 반도체 제작에 나선다. KT는 지난해 반도체 설계기업 리벨리온과 손을 잡고 AI 반도체 확보에 나서왔다. 또한 AI 인프라 솔루션 기업 '모레'와도 협력을 발표했다.

KT클라우드는 5~6월 말 리벨리온 칩을 KT클라우드 서버에 적용할 계획이다. 리벨리온이 설계한 AI 반도체 '아톰'은 현재 TSMC에서 생산을 마친 것으로 알려졌다. 윤 대표는 NPU를 넘어 지능형 메모리 반도체(PIM)도 개발할 예정이다.

마지막으로 윤 대표는 디지털 전환이 고도화된 사회일 수록 끊김없는 서비스를 제공하는 회복력 있는 재해복구 시스템을 클라우드로 제공할 수 있다고 강조했다.

그는 "KT클라우드는 전국 13개, 수도권 7개의 데이터센터를 보유하고 있다"며 "한 데이터센터에서 장애가 나도 근방에 있는 데이터센터를 통해 서비스 연속성을 확보할 수 있다"고 강조했다. 이어 "재해복구 시스템 구축 비용에 부담을 느끼는 기업들은 KT클라우드의 재해복구 솔루션을 통해 이를 해결할 수 있다"고 강조했다.

배순민 KT 융합기술원 AI2XL연구소 소장이 KT의 초거대AI '믿:음'에 대해 설명하고 있다. /최문정 기자

이어진 두 번째 키노트에는 황종성 한국지능정보사회진흥원(NIA) 원장은 올해 정부가 추진 중인 '공공·민간 부문 클라우드 전환' 등을 공유했다.

마지막으로 배순민 KT 융합기술원 AI2XL연구소 소장의 발표가 이어졌다. 배 소장은 초거대 AI의 대중화를 이끈 오픈AI의 '챗GPT' 등장 이후 경쟁적으로 초거대 AI 모델을 자사 플랫폼으로 유치하기 위한 클라우드 사업자들의 노력을 소개했다. 그러면서 초거대 AI 모델은 이미 그 자체로도 파급력을 가지는 인프라∙플랫폼의 성격을 가지며, 클라우드 시장의 성장을 이끌 것으로 예상했다.

배 소장은 KT의 초거대 AI 모델 '믿:음'이 이미 인공지능컨택센터(AICC) 등 다양한 KT의 서비스에 적용돼 고객들의 삶의 변화에 기여하고 있으며, 누구나 쉽게 초거대 AI 기술을 활용할 수 있는 클라우드 기반 AI 풀스택을 제공하겠다고 강조했다.

윤동식 KT클라우드 대표는 "KT 클라우드 서밋 2023은 전문 업계 관계자가 모여 기술과 전략을 공유하고 파트너 동반성장 및 생태계 비전을 확인한 뜻깊은 자리였다"며 "앞으로도 디지털 비즈니스 가치 실현을 위한 지속 가능한 기술을 교류하며 파트너들과 함께 대한민국 DX 산업을 이끌어 가겠다"고 말했다.

한편, KT클라우드 출범 1주년을 맞아 시행된 KT클라우드 서밋에서는 AI, 클라우드, IDC 3개 트랙 총 30개 세션에서 AI, IDC, 공공, 서비스형 소프트웨어(SaaS) 등을 주제로 한 발표와 DX 관련 기업들의 현장 체험 부스 등으로 구성됐다.

munn09@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write