가성비 2.5배 향상된 AI반도체를 개발했다

KAIST 김주영 교수팀, LPU 개발
데이터센터 고성능 GPU 대체 전망

한국과학기술원(KAIST) 전기및전자공학부 김주영 교수팀이 개발한 LPU 칩과 가속 어플라이언스. KAIST 제공

[파이낸셜뉴스] 한국과학기술원(KAIST) 전기및전자공학부 김주영 교수팀이 기존의 인공지능(AI) 반도체보다 가격대비 성능이 2.4배 향상된 AI 반도체 'LPU'를 개발했다. 이 반도체는 챗GPT 같은 거대 언어 모델의 추론 연산을 효율적으로 가속한다. 김주영 교수는 4일 "최근 급격하게 생성형 AI 서비스 수요가 증가하고 있는 데이터센터의에서 고성능 GPU를 대체할 수 있을 것"이라고 전망했다.

이 AI 반도체 'LPU'는 메모리 대역폭 사용을 극대화하고 추론에 필요한 모든 연산을 고속으로 수행 가능한 연산 엔진을 갖춘 AI 반도체다. 또 자체 네트워킹을 내장해 다수개 가속기로 확장이 용이하다.

연구진은 LPU 기반의 가속 어플라이언스 서버가 업계 최고의 고성능 GPU인 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배 가량 높다고 설명했다.

김주영 교수는 이번 연구를 자신의 창업기업인 ㈜하이퍼엑셀에서 수행했으며, 지난 7월 12일 미국 샌프란시스코에서 진행된 국제 반도체 설계 자동화 학회(DAC)에서 공학 부문 최고 발표상을 수상하는 쾌거를 이뤘다.

김주영 교수는 "미래 거대 AI 연산을 위한 새로운 프로세서 'LPU'로 글로벌 시장을 개척하고, 빅테크 기업들의 기술력보다 우위를 선점하겠다"고 말했다.

DAC은 국제 반도체 설계 분야의 대표 학회이며, 특히 전자 설계 자동화(EDA)와 반도체 설계자산(IP) 기술 관련해 세계적인 반도체 설계 기술을 선보이는 학회다. DAC에는 인텔, 엔비디아, AMD, 구글, 마이크로소프트, 삼성, TSMC 등 세계적인 반도체 설계 기업이 참가하며, 하버드대학교, MIT, 스탠퍼드대학교 등 세계 최고의 대학도 많이 참가한다.

KAIST 측은 세계적인 반도체 기술들 사이에서 김 교수팀이 거대 언어 모델을 위한 AI 반도체 기술로 유일하게 수상한 것은 매우 의미가 크다고 평가했다. 그러면서 이번 수상으로 거대 언어 모델의 추론에 필요한 막대한 비용을 획기적으로 절감할 수 있는 AI 반도체 솔루션으로 세계 무대에서 인정받은 것이라고 설명했다.