엔비디아 獨走 막나… 두뇌 빼닮은 토종 반도체 개발

KAIST, '상보형…'AI반도체 개발
엔비디아 GPU比 625배 전력절약
LLM 적용… 0.4초만 번역·응답
'연구 이론' 세계 최초 형태 구현

유회준 KAIST 교수

KAIST가 개발한 뉴로모픽 컴퓨팅 기반 초저전력·고성능 AI 반도체를 LLM에 적용해 언어가 생성되는 속도 모습

KAIST는 초저전력으로 초고속 거대언어모델을 처리할 수 있는 AI 반도체 '상보형-트랜스포머'를 세계에서 처음으로 개발했다. 사진은 상보형 트랜지스터 칩이 탑재된 시스템 보드.

온디바이스 AI(인공지능)에 활용할 수 있는 뉴로모픽 컴퓨팅 기반의 차세대 AI 반도체가 국내 연구진에 의해 세계 최초로 구현됐다. 엔비디아의 GPU(그래픽처리장치) A100에 비해 전력 소모를 625배 가량 줄여 초저전력으로 작동하면서 LLM(거대언어모델)인 'GPT-2'에 적용해 0.4초 만에 언어번역과 질의응답이 가능한 성능을 갖췄다. LLM에 뉴로모픽 컴퓨팅 기반 AI반도체를 적용해 구동에 성공한 것은 세계적으로 이번이 처음이다.

과학기술정보통신부는 유회준 KAIST PIM반도체연구센터·AI반도체대학원 교수 연구팀이 400밀리와트의 초저전력을 소모하면서 0.4초의 초고속으로 LLM을 처리할 수 있는 AI반도체인 '상보형-트랜스포머'를 삼성전자의 28나노공정을 통해 개발했다고 6일 밝혔다.

뉴로모픽 컴퓨팅은 인간 뇌의 동작을 모사해 설계된 컴퓨팅 시스템이다. 기존 컴퓨팅 시스템보다 훨씬 적은 에너지를 소모하는 게 가장 큰 강점이다. 연구팀은 심층 인공신경망(DNN)과 스파이킹 뉴럴 네트워크(SNN)를 동시에 활용해 데이터 크기에 따라 서로 신경망에 할당해 전력 소모를 최소화했다. DNN은 복잡한 패턴을 인식하고 학습할 수 있는 딥러닝 모델이고, SNN은 뇌의 신경세포(뉴런)가 스파이크라는 시간에 따른 신호를 사용해 정보를 처리하는 방식으로 실시간 처리와 복잡한 시계열 데이터 분석에 적합한 AI 모델이다. 연구팀은 사람의 뇌가 생각할 것이 많을 때 에너지 소모가 많고 생각할 것이 적으면 에너지 소모가 적은 것처럼, 입력 정보가 많으면 이에 적합한 SNN을, 입력정보가 적으면 DNN을 사용하도록 했다.

연구팀이 개발한 AI 반도체는 가로·세로 4.5㎜ 크기로, 두 개의 심층신경망 기술을 LLM에 적용해 초저전력과 고성능의 온디바이스 AI가 가능함을 입증했다. 그동안 이론적인 연구에 머물렀던 것을 세계 최초로 AI 반도체 형태로 구현한 것이다.

연구팀은 이 과정에서 복잡한 작업을 할 때 정확도가 떨어지는 뉴로모픽 시스템의 한계를 스파이크 발생 문턱값을 정밀 제어하는 방법으로 해결했다. 이를 통해 SNN의 에너지 효율성을 유지하면서 DNN 수준의 정확도를 달성했다.

또한 3단계 파라미터 압축 기법을 통해 7억8000만개에 달하는 GPT-2의 파라미터(매개변수)를 1억9100개로, 번역을 위해 사용되는 T5 모델의 4억200만개 파라미터를 7600만개로 각각 줄였다. 이를 통해 엔비디아 A100의 625분의 1 정도만 전력을 소모하고, GPT-2 모델을 활용한 언어 생성은 0.4초, T5 모델을 활용한 언어 번역은 0.2초만에 하도록 구현했다. 연구팀은 향후 뉴로모픽 컴퓨팅을 언어모델에 국한하지 않고 다양한 응용 분야로 확장할 예정이다.

유회준 교수는 "이번 연구는 기존 AI 반도체의 전력 소모 문제를 해소하고, GPT-2와 같은 실제 거대언어모델에 적용해 성공적으로 구동했다는 데 의미가 크다"며 "뉴로모픽은 AI 시대에 필수적인 초저전력·고성능 온디바이스 AI의 핵심 기술로, 우리나라가 이 분야를 선도하도록 연구를 이어가겠다"고 말했다.

한편 김상엽 박사는 지난 2월에 미국 샌프란시스코에서 열린 '반도체 올림픽'으로 불리는 국제고체회로설계학회(ISSCC)에서 관련 연구결과를 발표하고 AI 반도체에 대한 시연을 성공적으로 마쳤다.

글·사진=이준기기자 bongchu@dt.co.kr