KT클라우드 "전력 소모 많은 초거대 AI 비용 효율화 인프라 절실"

'KT클라우드 서밋(summit) 2023' 개최
윤동식 대표 "학습, 추론 비용 감소시켜야 AI 시대 되는 것"

KT클라우드는 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 'KT클라우드 서밋(summit) 2023'을 개최했다고 18일 밝혔다. 사진은 개회사를 하는 윤동식 KT클라우드 대표. 2023.04.18/뉴스1 ⓒ News1 윤지원 기자

(서울=뉴스1) 윤지원 기자 = 윤동식 KT클라우드 대표가 초거대 인공지능(AI)의 전력 소모량을 절감할 수 있는 인프라가 필요하다고 강조했다.

KT클라우드는 서울 강남구 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 'KT클라우드 서밋(summit) 2023'을 18일 개최했다. 이는 클라우드 산업의 핵심 기술과 전략, 산업 동향 등을 소개하는 고객사∙협력사 초청 행사다.

행사 첫 발표자로 나선 윤동식 대표는 "비용, 전력 효율적인 AI 인프라가 절실하게 필요한 때"라며 "AI의 전력 소모량이 어마무시하다. 이렇게 전력을 소모하다가는 탄소 배출로 AI가 금지되는 날이 올 수도 있다"고 말했다.

이어 윤 대표는 "학습, 추론 비용을 혁신적으로 감소시켜야지만 일반 회사들도 얼마든지 사용할 수 있는 AI 시대가 되는 것"이라고 말했다.

윤 대표는 KT클라우드가 전력 소모량을 낮추고 성능은 높인 클라우드 서비스를 준비 중이라고 밝혔다.

윤 대표는 "현재 알려져있는 엔비디아의 제품 대비 5분의 1 이하 전력을 사용하고 성능은 그 이상을 낼 수 있는 NPU(신경망 처리 장치) 칩을 지금 개발하고 있다"며 "칩 제작을 완료하고 5월 말쯤에 선보일 수 있을 것 같다"고 말했다.

KT클라우드는 NPU에서 나아가 지능형 메모리 반도체(PIM) 개발에도 주력한다는 계획이다. 하나의 칩에서 메모리와 연산을 동시에 구현한 반도체가 PIM 반도체다.

윤 대표는 "NPU에서 만족하지 않고 PIM 개발도 계획 중"이라며 "정부가 진행하는 'K-클라우드 계획'하고도 맞닿아 있다"고 말했다. 과학기술정보통신부는 세계 최고 수준의 초고속·저전력 국산 AI 반도체를 개발하고 이를 데이터센터에 적용하는 K-클라우드 프로젝트를 추진하고 있다.

윤 대표는 "훨씬 더 빠르게 추론 연산, 학습을 할 수 있지 않을까 본다"며 "PIM을 준비하고 있고 얼마 안에 계획을 발표 드리겠다"고 덧붙였다.

g1@news1.kr