"저전력·고성능 '리벨리온 AI칩' 내달 적용"

KT 클라우드 서밋 2023 개막
윤동식 KT클라우드 대표
"초거대 AI 전력 소모 문제 해결
NPU 넘어 PIM까지 개발할 것"

KT클라우드 윤동식 대표가 18일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'kt cloud summit 2023'에서 키노트 발표를 진행하고 있다. KT클라우드 제공

KT클라우드가 인공지능(AI) 반도체 스타트업 '리벨리온'이 개발한 전용 칩을 이르면 다음 달 말부터 인프라에 활용키로 했다. 이 칩은 엔비디아와 비교하면 전력 사용량이 5분의 1 이하면서 성능은 그 이상인 NPU(신경망처리장치) 칩이다.

KT클라우드 윤동식 대표는 18일 열린 'kt cloud summit 2023' 키노트에서 "기존 칩 대비 전력 사용량이 5분의 1 수준이고 성능은 그 이상인 칩을 (TSMC에서) 제작했다"고 말했다. 그는 지능형 반도체(PIM)에 대해선 "그래픽처리장치(GPU) 보드 메모리양에 따라 얼마나 많은 작업량을 소화할 수 있는지가 중요하다"면서 "다음 세대 지능형 반도체를 준비하고 있고, 곧 관련 계획을 발표하겠다"고 밝혔다.

윤 대표는 또 "AI 인프라와 재난대응(DR) 체계를 동시에 갖췄을 때 실질적인 비즈니스 DX를 실현할 수 있다"고 말했다. 그는 초거대 AI의 학습 속도를 높이면서도 막대한 전력을 소모하는 AI 시스템의 기능·비용 동시 효율화가 관건이라고 강조했다.

윤 대표는 "KT클라우드에선 AI 인프라부터 미들웨어, 클러스터링 솔루션, 연산 훈련, 응용까지 AI 생태계를 풀스택으로 준비해 나가고 있다"며 "리벨리온과 협력해 엔비디아 제품 대비 전력은 줄이고 성능은 그 이상을 낼 수 있는 NPU를 개발 중이다"고 설명했다. 향후에는 NPU를 넘은 PIM 설계까지 목표로 하고 있다. 아울러 그동안 쌓은 고객경험·피드백을 기반으로 맞춤형 클라우드 서비스를 제공하고, 향후 공공·금융·엔터프라이즈 영역을 공략하겠다고도 비전도 제시했다.

그는 "(공공 분야에선) 디지털 플랫폼 정부 컨설팅을 진행하면서 공공 니즈를 파악할 수 있었고, 공공 클라우드 요구사항, 요건 등에 맞춰 발전 중이다"며 "금융도 은행, 증권, 보험사 등 분야에 따라 요구가 다 다른데, 니즈에 따라 클라우드 서비스를 설계해 수주율을 높일 수 있도록 하고 있다"고 했다. 이어 "제조, 교육, 미디어 등 산업 영역이 뒤바뀌고 있기 때문에 필요에 따라 별도의 고객 맞춤형 클라우드를 만들어내겠다"고 말했다.

아울러 윤 대표는 "KT클라우드는 전국에 13개 인터넷데이터센터(IDC)를 갖고 있는데, 모두 서로 간 연동돼 있다"며 "특정 IDC에서 회선 장애가 발생해도 언제든지 해당 네트워크 연결을 옆 IDC로 우회해 인터넷 연결 가능하도록 한다"고 설명했다. 이어 "여러 IDC를 이용해 서버를 잘 분산시키면 언제 어디서든 경영 연속성 확보가 가능하다"고 덧붙였다.