“NPU로 만족 못해” KT클라우드, PIM 개발 ‘도전장’… ‘AI 풀스택’ 속도

윤동식 대표, 연례 행사 ‘서밋’서 발표
“NPU 넘어 PIM”… 속도 붙는 ‘AI 풀스택’
“5월 리벨리온 ‘아톰’ 인프라 탑재… 전력 효율↑”

윤동식 KT클라우드 대표가 18일 서울 강남구 파르나스호텔에서 열린 자사 연례 행사 ‘서밋’에서 기조연설을 하고 있다. /KT클라우드

KT클라우드가 국내 팹리스(반도체 설계) 스타트업 리벨리온과 NPU(신경망처리장치)에 이어 PIM(프로세싱인메모리) 개발을 준비 중이다. 초거대 인공지능(AI) 시대에 발맞춰 전력 낭비는 줄이고 연산 성능을 높인 클라우드 서비스를 선보인다는 포석이다.

PIM은 메모리 소자 내에서 직접 연산을 수행, 메모리와 연산장치 간 데이터 전송 과정에서 생기는 지연 시간과 전력 손실을 줄일 수 있다. 대규모 데이터를 처리하거나 실시간으로 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등의 분야에서 활발하게 쓰일 것이란 전망이 나온다. 국내에선 삼성전자와 SK하이닉스가 개발에 속도를 내고 있다.

윤동식 KT클라우드 대표는 18일 서울 강남구 파르나스호텔에서 열린 자사 연례 행사 ‘서밋’에 기조연설자로 나서 “전 세계적으로 인공지능(AI) 구동에 소모되는 전기량이 한계에 다다랐다고 한다. 비용‧전력 효율적인 AI 인프라가 절실하게 필요한 때”라며 PIM 개발 계획을 밝혔다.

윤 대표는 “GPU(그래픽처리장치)의 전력 소모량은 그야말로 어마무시하다. 이런 추세로는 (각국이 시행 중인 탄소 배출 제한 정책에 따라) AI 사용이 금지되는 날이 올 수 있을 것 같다”며 “KT클라우드는 리벨리온과 엔비디아 GPU ‘A100′보다 5분의 1 이하의 전력을 사용하고 성능은 그 이상을 낼 수 있는 NPU를 개발, 제작을 마친 상태다. 오는 5월 말쯤 리벨리온의 ‘아톰’을 탑재한 KT클라우드 인프라를 선보일 수 있을 것”이라고 했다.

윤 대표는 이어 “시작은 NPU지만, NPU에서 만족하지 않고 PIM 개발을 계획 중이다”라며 “이는 국가가 주도하는 ‘K-클라우드 프로젝트’ 사업과 맞닿아있다. 구체적인 내용은 추후 발표할 것”이라고 덧붙였다.

과학기술정보통신부가 지난해 12월 12일 발표한 ‘국산 AI 반도체를 활용한 K-클라우드 추진방안’ 중 발췌. /과기정통부

KT클라우드는 지난달 네이버클라우드, NHN클라우드, 리벨리온, 퓨리오사AI, 사피온 등 5개사와 컨소시엄을 꾸려 K-클라우드 프로젝트에 참여를 신청했다. 정부는 K-클라우드 프로젝트에 올해부터 2030년까지 총 8262억원(예정)의 예산을 투입, 국산 AI 반도체를 ‘NPU→저전력 PIM→극저전력 PIM’ 3단계에 걸쳐 고도화할 방침이다.

KT클라우드 등이 지원한 ‘AI 반도체팜 구축 및 실증’ ‘AI 반도체 시험검증 환경 조성’ 2개 사업은 이 중 1단계에 해당한다. 정부는 이들 사업에 각각 65억4400만원을 들여 광주 AI집적단지와 민간 데이터센터에 NPU팜을 구축할 계획이다. 광주 NPU팜에서는 디지털플랫폼정부 구축에 발판이 될 공공 분야 중심 AI 서비스를 실증할 예정이다.

KT클라우드의 PIM 개발 소식에 업계에서는 KT의 ‘AI 풀스택’ 사업이 속도감 있게 전개된다는 분석이 나온다. KT는 AI 풀스택을 ‘AI 비즈니스의 근간이 되는 AI 반도체 등 인프라부터 고객에게 제공하는 AI 응용 서비스까지 전 과정을 아우르는 제품과 서비스’로 정의한다. 이를 위해 KT는 앞서 KT클라우드, 리벨리온, AI 인프라 솔루션 기업 모레와 손잡았다.

업계는 리벨리온의 PIM 개발 전망도 긍정적으로 보고 있다. 리벨리온은 이달 초 글로벌 인공지능(AI) 반도체 성능 경연대회에서 엔비디아, 퀄컴을 제치고 최고 성적을 받으며 기술력을 입증한 바 있기 때문이다. 리벨리온은 지난 6일 “AI 반도체 성능 테스트 대회인 엠엘퍼프(MLPerf)에서 리벨리온의 아톰이 엔비디아, 퀄컴의 동급 반도체보다 1.4~3배가량 앞선 성적을 받았다”고 밝혔다.

윤 대표는 이날 기조연설 전 기자들과 만나 “KT클라우드도 (아톰 탑재를 통한) 인프라 최적화를 좀 더 진행하면 전력대성능비(TDP)를 10분의 1 수준으로 줄일 수 있을 것으로 기대하고 있다”고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -