자람테크놀로지, 엔비디아 뛰어 넘는 세계 첫 AI반도체기술 SNN 국책과제 진행

KAIST, 스파이킹 뉴럴 네트워크 활용 0.4초만에 거대언어모델 처리기술 개발

[아이뉴스24 이규진 기자]국내 연구진이 세계 최초로 엔비디아를 뛰어넘는 AI 반도체를 개발했다는 소식에 자람테크놀로지의 기술이 부각되고 있다.

자람테크놀로지 로고. [사진=자람테크놀로지]

이번 연구진이 개발한 AI 반도체의 핵심 기술이 뉴모로픽 컴퓨팅 기술 중에서도 '스파이킹 뉴럴 네트워크(SNN)'다. 이 기술을 바탕으로 자람테크놀로지가 국책과제를 수행 중이다.

6일 과학기술정보통신부(과기정통부)에 따르면 KAIST(한국과학기술원) 유회준 PIM반도체 연구센터·인공지능반도체대학원 교수 연구팀이 400밀리와트(mw) 초저전력을 소모하면서도 0.4초만에 거대언어모델(LLM)을 처리할 수 있는 AI반도체 '상보형-트랜스포머'를 삼성전자 28나노 공정을 통해 세계 최초로 개발했다. 이에 따라 작은 AI 반도체 칩 1개만으로 GPT등 거대언어모델(LLM)을 구현할 수 있게 됐다.

연구팀은 인간 뇌의 구조와 기능을 모방해 설계한 컴퓨팅 시스템인 '뉴모로픽 컴퓨팅' 기술을 활용했다. 연구팀이 활용한 건 뉴모로픽 컴퓨팅 기술 중에서도 '스파이킹 뉴럴 네트워크(SNN)'다. 실시간으로 복잡한 시계열 데이터를 분석하는 데 적합한 정보 처리 방식이다.

기존 뉴로모픽 컴퓨팅 기술은 이미지 인식, 비디오 분석 등 시각적 데이터 처리에 사용하는 딥러닝 모델인 '합성곱신경망(CNN)'보다 부정확하며 간단한 이미지 분류 작업만 가능했다. 이번 연구 논문의 제1저자인 김상엽 KAIST 박사는 뉴로모픽 컴퓨팅 기술의 정확도를 CNN 수준으로 끌어올리고 이미지 분류를 넘어서 다양한 응용까지 가능한 '상보형-심층신경망(C-DNN)' 기술을 지난 2월 미국에서 열린 '국제고체회로설계학회(ISSCC)에서 처음 시연했다.

스파이킹 뉴럴 네트워크(SNN)와 심층 인공 신경망(DNN)을 혼합해 입력 데이터의 크기에 따라 서로 다른 신경망에 할당해 전력을 최소화하는 기술이다. 원리는 사람의 뇌와 비슷하다.

이와관련, 자람테크놀로지는 엣지향 인공지능 프로세서를 개발하고 있다. SNN방식의 뉴로모픽 프로세서를 기반으로 성능향상을 위해 CNN을 추가한 하이브리드형으로 개발 중이다.

특히 자람테크놀로지는 차세대지능형반도체 기술개발사업 국책과제로 설계 부문을 맡아 한국전자기술연구원(KETI)과 디바이스용 인공지능(AI) 칩을 개발하고 있다. 자람테크놀로지는 스파이킹 뉴럴 네트워크(SNN, Spiking Neural Network) 방식의 뉴로모픽 프로세서를 기반으로 성능향상을 위해 합성곱신경망(CNN, Convolutional Neural Network)을 추가한 하이브리드형에 초점을 맞추고 있다.

/이규진 기자(sky918@inews24.com)