카이스트, 엔비디아 보다 성능 50% 높인 AI반도체 개발

[한국경제TV 이근형 기자]

엔비디아의 AI반도체 A100보다 성능을 최대 50% 향상시킨 AI반도체를 국내 카이스트 연구진이 개발했다.

카이스트는 김주영 전기전자공학부 교수의 창업기업 '하이퍼엑셀'이 챗GPT 거대 언어 모델 연산에 사용되는 고성능 AI반도체를 개발했다고 4일 밝혔다.

이번 연구팀이 개발한 AI반도체 ‘LPU(Latency Processing Unit)’는 메모리 대역폭 사용을 극대화하고 추론에 필요한 모든 연산을 고속으로 수행 가능한 연산 엔진을 갖춘 AI 반도체다. LPU기반의 가속 어플라이언스 서버는 업계 최고 고성능 GPU인 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배 가량 높다는 게 연구팀의 설명이다.

연구팀은 이번 성과를 인정받아 지난달 12일 미국 샌프란시스코 국제 반도체 설계 자동화 학회에서 공학 부문 최고 발표상을 수상하는 쾌거를 거뒀다. 이 학회는 국제 반도체 설계 분야 대표 학회로, 인텔과 엔비디아, AMD, 구글, MS, 삼성, TSMC 등 설계기업이 참가하며, 하버드대학교와 MIT, 스탠퍼드대학교 등도 포함된다.

카이스트는 세계적 반도체 기술둘 사이에서 김 교수팀이 유일하게 수상한 것은 매우 의미가 크다며, 특히 거대 언어모델 추론에 필요한 막대한 비용을 획기적으로 절감할 수 있는 솔루션으로 세계 무대에서 인정 받은 것이라고 호평했다.

KAIST 김주영 교수는 “미래 거대 인공지능 연산을 위한 새로운 프로세서 ‘LPU’로 글로벌 시장을 개척하고, 빅테크 기업들의 기술력보다 우위를 선점하겠다”라며 큰 포부를 밝혔다.
이근형기자 lgh04@wowtv.co.kr