삼성 '가이아'에 LPDDR5X-PIM 탑재…AI PC서 PIM 첫 상용화

핫칩스서 LPDDR5X-PIM 사례로 공개

(지디넷코리아=전화평 기자)삼성전자가 개발 중인 인공지능(AI) PC용 칩셋 '가이아(GAIA)'에 연산 기능을 내장한 메모리 반도체 LPDDR5X-PIM이 탑재된다. PIM(Processing in Memory)이 실제 AI PC용 칩셋과 결합되는 것은 이번이 처음이다. 가이아가 양산에 들어갈 경우 PIM이 연구·검증 단계를 넘어 실제 제품에 적용되는 첫 사례가 될 전망이다.

삼성전자는 23~25일(현지시간) 미국에서 열리는 반도체 학회 '핫칩스(Hot Chips)'에서 '삼성 LPDDR5X-PIM: 세계 최초 LPDDR 기반 AI 추론용 PIM 솔루션'을 주제로 발표했다. 

반도체 업계 한 관계자는 발표에 앞서 "삼성전자는 이번 핫칩스 발표에서 LPDDR5X-PIM의 AI 추론 적용 사례와 함께 가이아를 소개한다"고 밝힌 바 있다. 

삼성전자 평택캠퍼스(사진=삼성전자)

다만 이번 핫칩스 발표에서 가이아가 제품명으로 직접 언급되지는 않았다. 발표자료에는 삼성의 엣지 AI 가속기 시스템 온 칩(SoC)이 언급됐는데, 업계에서는 이 제품을 가이아로 추정하고 있다.

삼성전자는 이 SoC에 LPDDR5X와 LPDDR5X-PIM 메모리를 탑재해 검증했다. 그 결과 LPDDR5X-PIM은 기존 LPDDR5X에서 12.3초가 걸렸던 테스트를 5.4초 만에 완료했다. 2.28배의 성능 향상을 보인 셈이다. 출력 또한 초당 27.0개에서 81.3개로 3.01배 증가했다.

가이아는 삼성전자 시스템LSI사업부가 개발하고 있는 AI PC용 AI 가속기다. 삼성 파운드리의 4nm(나노미터, 10억분의 1m) 공정을 기반으로 제작되며, AI 연산 처리에 특화했다. 삼성전자는 이미 중국 레노버와 미국 HP 등 주요 PC 제조사에 가이아 시제품을 공급하고 성능을 검증 중인 것으로 알려졌다. 이르면 내년 양산이 거론된다.

LPDDR5X-PIM은 저전력 메모리인 LPDDR5X에 PIM 기술을 결합한 제품이다. 기존 메모리 반도체가 데이터를 저장하는 역할에 집중했다면, PIM은 메모리 내부에 연산 기능을 추가해 데이터를 저장하면서 동시에 처리할 수 있는 기술이다. 중앙처리장치(CPU)나 그래픽처리장치(GPU)와 메모리 사이에서 데이터가 반복적으로 이동하는 과정을 줄여 AI 연산 과정에서 발생하는 병목과 전력 소모를 낮추는 것이 핵심이다. 삼성전자는 앞서 LPDDR5X-PIM 시뮬레이션을 통해 기존 메모리 대비 AI 행렬 연산 성능을 최대 6.2배 높일 수 있다고 밝힌 바 있다. 

LPDDR5X-PIM은 전력 효율이 중요한 온디바이스 AI 시장을 겨냥한다. 노트북과 스마트폰 등 개인 기기는 전력과 발열 제약이 크기 때문에 연산 과정에서 메모리와 프로세서 사이 데이터 이동을 줄이는 것이 중요하다. 경쟁사인 SK하이닉스도 PIM이 온디바이스 시장에서 성장할 것으로 내다본 바 있다.

강욱성 SK하이닉스 부사장은 지난해 진행된 OCP 코리아 테크데이에서 "PIM은 클라우드보다 스마트폰, PC 등 엣지에서 먼저 상용화가 전망된다"며 "GPU 개수를 늘릴 수 있는 클라우드와 달리, 엣지 디바이스는 늘릴 수 없기 때문"이라고 설명했다.

그러면서 "휴머노이드나 로보틱스에서도 활용될 가능성이 크다"고 덧붙였다.

가이아와 LPDDR5X-PIM의 결합은 삼성전자가 시스템LSI와 메모리를 아우르는 AI 반도체 전략을 추진한다는 점에서도 의미가 있다. 가이아가 AI 연산을 담당하고 LPDDR5X-PIM이 메모리 내부에서 일부 연산을 처리하는 방식으로 역할을 분담하면 프로세서와 메모리 간 데이터 이동을 줄여 전체 시스템 성능과 전력 효율을 높일 수 있다.

삼성전자는 그동안 PIM을 다양한 메모리 제품에 적용해 왔다. 서버용 고대역폭메모리(HBM)에 PIM을 적용한 HBM-PIM을 비롯해 모바일용 LPDDR에 PIM을 결합한 기술을 공개하며 적용 범위를 확대해왔다. 다만 실제 제품에 PIM을 적용해 상용화하는 데는 기술·생태계 측면 과제가 남아 있었다.

업계에서는 가이아의 PIM 적용이 PIM 기술 상용화 가능성을 확인하는 계기가 될 것으로 보고 있다.

반도체 업계 한 관계자는 "AI PC 시장에서 실제 고객사 성능 검증을 거친 뒤 양산까지 이어질 경우 PIM이 단순한 차세대 메모리 기술을 넘어 온디바이스 AI를 위한 핵심 메모리 기술로 자리 잡을 가능성이 있다"고 말했다.

전화평 기자(peace201@zdnet.co.kr)