'연산 메모리'에 주목…"PIM으로 데이터 병목·전력소모 잡는다"

PIM, 메모리서 일부 연산 수행
메모리 업계 PIM 활용 시도 증가
가격 효율성 높여 쓰임새 늘려야

메모리 반도체 업계가 인공지능(AI) 시대 급증하는 데이터 처리 수요에 대응하기 위한 방안 찾기에 힘쓰고 있다. 이 과정에서 메모리에 일부 연산 기능을 가능케 한 '프로세싱인메모리(PIM)' 기술 개발 시도가 이어지고 있다. 메모리 병목 현상 해결을 위해선 PIM 적용이 필수이며 관련 시장 개척 시도가 꾸준히 이어져야 한다는 조언이 나온다.

8일 반도체 업계에 따르면 삼성전자와 SK하이닉스 등 메모리 기업은 PIM 기술을 개발한 뒤 다양한 제품에 해당 기술을 적용하고 있다. D램 종류인 저전력더블데이터레이트(LPDDR)와 그래픽더블데이터레이트(GDDR), 고대역폭메모리(HBM) 등에 PIM 기술을 적용한 신개념 제품을 선보이는 식이다. 또 PIM을 활용한 새로운 개념의 응용 제품 개발에도 힘쓰고 있다.

PIM은 Processing-in-Memory의 약자로, 메모리에 일부 프로세서 기능을 포함해 연산이 가능하도록 한 지능형 반도체다. 기존 컴퓨팅 구조(폰 노이만 구조)에선 메모리가 중앙처리장치(CPU), 그래픽처리장치(GPU) 등의 프로세서 옆에서 저장 역할만 했다면, PIM은 주된 연산을 하는 프로세서를 도와 일부 연산도 처리한다. 프로세서와 메모리 간 주고 받는 데이터양이 늘면서 생기는 병목 현상과 전력 소모를 줄이는 데 목적이 있다.

삼성전자의 경우 AI 가속기용으로 HBM-PIM을, 온디바이스 AI(기기 내부에서 구현하는 AI)용으로는 LPDDR-PIM을 선보이며 상용화에 힘쓰고 있다. 앞서 삼성전자는 2021년 AI용 메모리인 HBM에 PIM 기술을 적용한 HBM-PIM을 선보인 바 있다. 지난 1월에는 미국에서 열린 세계 최대 전자·IT 박람회 'CES 2024'에서 LPDDR5X-PIM을 전시했다. 해당 제품은 기존 LPDDR5X 대비 성능은 8배 높고 전력 소모는 50% 줄인 것이 특징이다.

SK하이닉스는 PIM이 AI 추론 영역에서 쓰임새가 늘 것으로 보고 관련 제품 개발에 힘쓰고 있다. 2022년 GDDR6에 AiM(SK하이닉스 PIM 제품명)을 적용한 GDDR6-AiM을 선보인 뒤 지난해 9월엔 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 공개하기도 했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르되 전력 소모는 5분의 1 수준이라는 게 회사 설명이다.

반도체 업계에선 앞으로 처리해야 하는 데이터양이 빠르게 늘어나는 만큼 PIM 기술 도입의 필요성이 커질 것으로 보고 있다. 다만 아키텍처 변화와 시장성 확대 등 PIM 도입 과정에서 장벽이 있는 만큼 이를 해소하기 위한 방안을 찾아야 한다는 평가가 나오고 있다.

업계 관계자는 "삼성전자와 SK하이닉스가 오래전부터 PIM 기술을 연구해서 관련 시제품을 선보이고 있지만 결국 응용처를 확보해야 대량 생산 등을 통해 본격적인 상용화가 가능하다"며 "PIM이 효과적으로 쓰일 시장을 적극적으로 찾고, 점차 응용처를 늘려가며 가격 대비 효율성을 높이는 시도 등이 필요할 것"이라고 말했다.

김평화 기자 peace@asiae.co.kr