KAIST, 챗GPT 핵심 AI 반도체 개발…GPU 성능 50% 향상

(대전ㆍ충남=뉴스1) 김태진 기자 = 국내 연구진이 챗GPT의 거대 언어 모델 연산에 사용되는 고성능 그래픽처리장치(GPU) 보다 성능이 우수한 인공지능(AI) 반도체를 개발했다.

한국과학기술원(KAIST)은 전기 및 전자공학부 김주영 교수 연구팀이 챗GPT에 핵심으로 사용되는 거대 언어 모델의 추론 연산을 효율적으로 가속하는 AI 반도체를 개발했다고 4일 밝혔다.

챗GPT는 거대 언어 모델을 기반으로 하고 있다.

거대 언어 모델은 기존 인공지능과는 달리 전례 없는 큰 규모의 인공지능 모델로, 이를 운영하기 위해선 수많은 고성능 GPU가 필요해 천문학적인 컴퓨팅 비용이 든다는 문제점이 있다.

이에 연구팀이 개발한 AI 반도체 ‘LPU(Latency Processing Unit)’는 거대 언어 모델의 추론 연산을 효율적으로 가속한다.

이는 메모리 대역폭 사용을 극대화하고 추론에 필요한 모든 연산을 고속으로 수행 가능한 연산 엔진을 갖춘 AI 반도체며, 자체 네트워킹을 내장해 다수의 가속기로 확장이 아주 쉽다.

이 LPU 기반의 가속 어플라이언스 서버는 업계 최고의 고성능 GPU인 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배가량 높다.

이를 통해 최근 급격하게 생성형 AI 서비스 수요가 증가하고 있는 데이터센터의 고성능 GPU를 대체할 수 있을 것으로 기대된다.

김주영 교수는 “미래 거대 인공지능 연산을 위한 새로운 프로세서 ‘LPU’로 세계시장을 개척하고 빅테크 기업들의 기술력보다 우위를 선점하겠다”고 말했다.

이번 연구는 김주영 교수의 창업기업인 ㈜하이퍼엑셀이 수행했다.

연구성과는 지난달 12일 미국 샌프란시스코에서 열린 국제 반도체 설계 자동화 학회(DAC)서 공학 부문 최고 발표상(Engineering Best Presentation Award)을 수상했다.

memory4444444@news1.kr

사회