‘챗GPT’에 꽂힌 삼성전자, 美 버지니아공대와 ‘맞춤형’ AI 메모리 개발

AI 특화한 FPGA 기반으로 HBM 도입
언어모델 성능 극대화… 속도 1.5배↑
챗GPT 시대 맞아 차세대 메모리 개발 속도

삼성전자 화성사업장 반도체 라인에서 엔지니어들이 생산 라인을 둘러보고 있다.

삼성전자가 미국 버지니아공대와 함께 그래프신경망(GNN)에 특화한 맞춤형 인공지능(AI) 반도체 아키텍처를 개발했다. 챗GPT 광풍이 일고 있는 가운데 삼성전자는 AI 언어모델에 최적화한 메모리 반도체 개발에 연구개발(R&D) 역량을 집중시키고 있다.

22일 업계와 삼성전자에 따르면 회사는 이달 버지니아공대와 공동 연구를 통해 ‘니어 메모리 FPGA 그래프 프로세싱 프레임워크’라는 논문을 미국컴퓨팅학회(ACM)에 게재했다. 미국 삼성전자 DSA(삼성전자 미주총괄 사옥)에 최창호 연구원과 니마 엘리시아 연구원이 논문의 저자로 등재됐다.

이번 연구는 중앙처리장치(CPU), 그래픽처리장치(GPU) 대신 자유자재로 설계가 가능한 FPGA(프로그래머블 반도체)를 기반으로 고대역폭메모리(HBM)를 탑재하도록 설계해 전반적인 연산 능력을 끌어올린 것이 특징이다. AI 언어모델 구동에 최적화한 메모리 반도체를 도입하기 위해 진행한 이번 연구를 통해 기존 시스템 대비 속도는 1.5배, 전력효율성은 50% 높였다.

GNN은 대표적인 AI 구동 알고리즘 중 하나로, 언어모델부터 추천 알고리즘 등 다양한 방면에 활용된다. 삼성전자는 GNN 알고리즘의 성능 향상을 위해 메모리 반도체 관점에서 오랜 연구개발을 진행해왔고, 이번 연구에서는 삼성전자의 HBM과 FPGA를 접목해 성능 향상과 에너지 효율을 높이는 방향에 집중했다.

FPGA는 AI 분야에서 가장 각광받고 있는 반도체다. 특히 AI 솔루션에 맞춤 설계가 가능하기 때문에 머신러닝(ML)에 적합한 프로세서 설계에 적합하다. 삼성전자 관계자는 “기존의 CPU, GPU 기반 GNN 모델은 모든 데이터를 일일이 비교, 분류하고 추출해야 했고 이로 인한 병목현상이 잦았다”며 “이번 연구에서 삼성은 FPGA 기반으로 필요한 데이터만 순차적으로 분류하도록 해 AI 연산을 효율화했다”고 설명했다.

이번 연구에서 삼성이 도입한 프로세싱니어메모리(PNM) 기술도 삼성전자 메모리사업부 선행개발 조직에서 미래 기술로 주력해온 대표적 기술 중 하나다. PNM은 최근 각광받고 있는 PIM(프로세싱인메모리)와 마찬가지로 메모리 반도체에 연산기능을 탑재한 기술로, 연산 기능을 메모리 옆에 위치시켜 CPU와 메모리 간 데이터 이동을 감소시켜 병목현상을 줄이고 CPU 연산을 극대화하는 역할을 한다.

AI 반도체 시장 전망. /가트너 제공

삼성전자는 GNN뿐만 아니라 순환신경망(RNN·Recurrent Neural Network) 성능 향상을 위한 HBM-PIM 솔루션도 발표한 바 있다. HBM-PIM은 초고속 메모리인 HBM이 직접 연산기능을 담당하도록 설계해 CPU 중심의 중앙집권적 연산 구조를 분권형으로 바꾼 제품이다. CPU만 연산을 담당하는 기존 아키텍처를 바꿔 메모리에서도 일부 연산이 이뤄지면서 전반적인 데이터 처리를 비약적으로 끌어올릴 수 있는 차세대 메모리 기술로 꼽힌다.

한편 삼성전자는 챗GPT의 등장과 함께 급속도로 성장할 것으로 예상되는 AI용 반도체 시장에서 점점 운신의 폭을 늘리고 있다. 시장조사업체 가트너에 따르면 지난해 AI 반도체 시장은 444억달러(약 58조원) 규모로 집계됐다. 이는 전년 대비 27.8% 성장한 수치이며 2026년에는 861억달러(약 112조원)에 이를 것으로 전망된다.

- Copyright ⓒ 조선비즈 & Chosun.com -