삼성, 세계 첫 ‘연산 메모리’ 성능 공개…"AI 새 대안"

저전력 D램에 연산 기능 결합
데이터 양 줄여 속도·전력효율↑
"AI표준 HBM이지만 최선 아냐"

삼성전자가 메모리 안에서 인공지능(AI) 연산까지 처리하는 기술을 세계 최초로 상용화했다.

AI 데이터센터를 중심으로 고대역폭 메모리(HBM) 수요가 급증하는 가운데 스마트폰과 PC 등에 쓰이는 저전력 메모리인 LPDDR에 연산 기능을 더해 온디바이스 AI에 특화된 새로운 메모리 해법을 제시했다는 점에서 주목된다.

황가람 삼성전자 책임은 25일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학술대회 '핫칩스 2026'에서 LPDDR 기반 '메모리 내 연산'(PIM) 상용 제품 'LPDDR5X-PIM'의 구조와 사양, 성능 검증 결과 등을 공개했다.

LPDDR5X-PIM은 저전력 D램에 연산 기능을 더한 제품이다. 기존에는 메모리에 저장된 데이터를 중앙처리장치(CPU)나 그래픽처리장치(GPU)로 옮겨 연산한 뒤 결과를 다시 메모리에 저장해야 했지만, PIM을 적용하면 메모리 내부에서 간단한 연산을 직접 처리할 수 있다.

메모리와 프로세서 사이의 데이터 이동을 줄여 AI 처리 속도와 전력 효율을 높이는 방식이다.

삼성전자는 이번 발표에서 실제 AI 모델을 활용한 성능 검증 결과도 공개했다. 메타의 80억 파라미터 규모 경량 오픈소스 AI 모델 '라마 3.1'을 대상으로 시험한 결과 LPDDR5X-PIM의 처리 시간은 5.4초로 기존 LPDDR5X의 12.3초보다 약 2.3배 빨랐다. 초당 처리할 수 있는 토큰 수를 나타내는 초당 토큰 처리량(TPS)은 기존 27TPS에서 81.3TPS로 약 3배 증가했다. 토큰은 AI가 문장을 이해하고 답변을 생성할 때 처리하는 데이터 단위다.

삼성전자는 이달 초 열린 메모리 콘퍼런스 'FMS 2026'에서 LPDDR5X-PIM을 공개하고 '차세대 메모리상'을 수상했다. 당시 제품과 기술 방향을 소개한 데 이어 이번 핫칩스에서는 구체적인 구조와 사양, 실제 AI 모델을 활용한 성능까지 공개했다.

삼성전자가 LPDDR에 PIM을 적용한 것은 AI 메모리 시장의 적용 범위를 데이터센터에서 모바일·엣지 기기로 넓히기 위한 전략으로 풀이된다.

현재 AI 데이터센터에서는 대규모 데이터를 빠르게 처리하기 위해 HBM이 핵심 메모리로 사용되고 있다. HBM은 높은 대역폭을 제공하지만 전력과 패키징 측면에서 부담이 있다. 반면 LPDDR은 낮은 전력 소모가 강점이어서 스마트폰과 노트북 등 기기에 적합하다. 여기에 PIM을 결합하면 온디바이스 AI에 필요한 성능과 전력 효율을 동시에 확보할 수 있다는 게 삼성전자의 판단이다.

황 책임은 "AI를 지원하는 표준 메모리 솔루션은 HBM이지만, 최근 대형언어모델(LLM)이 소형화·효율화하면서 HBM이 항상 최선의 해결책은 아닐 수 있다"며 "이에 따라 높은 대역폭과 낮은 전력 소모를 동시에 갖춘 LP-PIM을 개발하게 됐다"고 개발 배경을 소개했다.

LPDDR5X-PIM은 기존 LPDDR과 동일한 메모리 배열을 사용하도록 설계해 호환성을 높인 것도 특징이다. 삼성전자는 기존 시스템을 크게 변경하지 않고도 제품을 적용할 수 있다고 설명했다. 새로운 메모리를 적용하기 위해 시스템 전체를 바꿔야 하는 부담을 줄여 실제 제품 채택 가능성을 높였다는 의미다.

삼성전자는 2021년 HBM에 PIM 기술을 적용한 'HBM-PIM'을 선보인 데 이어 이번에는 LPDDR로 적용 범위를 넓혔다. 현재 소프트웨어개발키트(SDK)와 시뮬레이터를 제공하며 생태계를 구축하고 있으며, 차세대 LPDDR6-PIM의 표준화 작업도 시작했다.

업계에서는 삼성전자의 LPDDR5X-PIM 상용화가 HBM에 집중된 AI 메모리 시장에 새로운 선택지를 제시했다는 점에서 의미가 있다는 평가가 나온다. AI가 데이터센터를 넘어 스마트폰과 PC 등으로 확산되면서 기기 특성에 맞는 저전력·고효율 메모리 수요도 커질 것으로 전망된다.

이상현 기자 ishsy@dt.co.kr

삼성전자의 LPDDR5X-PIM 제품 이미지. 삼성전자 제공