상용화 더딘 메모리 야심작 'PIM'…복잡한 업계 속내는

'똑똑한 메모리' PIM…CXL 비해 개화 느려
삼성 'HBM-PIM' 최초 개발…상용화 준비 끝
엔비디아·인텔 견제 불가피…기존 왕좌 지키기
AI 전력량 어마어마…'저전력' 수요가 신호탄

[이데일리 조민정 기자] 인공지능(AI) 시대 들어 고대역폭메모리(HBM)의 뒤를 이을 차세대 메모리에 대한 관심이 뜨겁다. 메모리 업계는 차세대 솔루션으로 거론되는 컴퓨트 익스프레스 링크(CXL), 프로세싱 인 메모리(PIM) 등 개발에 매진해 거의 준비를 마친 상황이다. 다만 상용화 시점이 다가오는 CXL에 비해 PIM은 상대적으로 더디면서, 그 배경에 이목이 쏠린다.

(그래픽=이미나 기자)

‘메모리 vs 시스템’ 복잡한 이해관계

PIM은 메모리 반도체에 ‘연산’ 기능을 더한 지능형 메모리다. 보통 메모리는 데이터를 저장하고 있다가 반도체 칩에서 두뇌 역할을 하는 중앙처리장치(CPU), 그래픽처리장치(GPU) 등 시스템 반도체가 원할 때 전송하는 역할을 한다. PIM을 통해 메모리가 저장을 넘어 연산까지 하게 되면 ‘볼보이(보조 인력)’를 넘어 직접 경기를 뛸 수 있는 후보 선수 지위까지 올라서는 셈이다.

PIM의 장점은 △성능 개선 △에너지 절감 효과 등이다. AI 여파로 HBM 등 메모리가 저장하는 데이터 용량이 많아지다 보니 이동 경로에서 병목현상이 발생하고 있다. CPU, GPU로 가는 길은 똑같은 1차선인데 차들이 많아져서 길이 막히는 것이다. 이러면 성능이 떨어지고 에너지 소모량이 많아진다. 챗GPT와 대화를 할 때 단어가 하나씩 표출되는 것은 이같은 병목현상 때문이다.

현재 삼성전자 등 국내 기업의 PIM 개발은 상용화만 남겨둔 단계에 왔다. 그러나 기업들의 속내는 생각보다 복잡하다. 메모리가 CPU, GPU의 일부 기능을 대신하며 똑똑해지는 셈이니 인텔, 엔비디아 등이 반길 리가 없다는 게 첫손에 꼽힌다. 글로벌 빅테크 기업들은 CPU, GPU 등 시스템 반도체를 우위로 보는 경향이 있어, 기존 왕좌를 지키기 위해 메모리의 영향력 확대를 견제할 가능성이 있다.

2021년 업계 최초로 PIM을 HBM에 통합한 HBM-PIM을 개발한 삼성전자는 연구를 지속하며 시장 개화에 대비하고 있다. HBM-PIM은 표준화를 진행해 기존 CPU, GPU의 변경 없이 사용할 수 있도록 했고, PIM을 동작시킬 수 있는 소프트웨어나 다른 시뮬레이터 등은 누구나 접근 가능하도록 공개했다. 카이스트 PIM센터와는 함께 개발 프로젝트를 진행하며 ‘다이나플라지아(DynaPlasia)’에 이어 새로운 PIM인 ‘다이아몬드(Dyamond)’를 선보였다.

카이스트 PIM반도체설계연구센터 연구팀과 삼성전자가 공동개발한 PIM 메모리 ‘다이아몬드’(왼쪽)로 ‘다이나플라지아(DynaPlasia)’의 차세대 라인업이다.(사진=조민정 기자)

추후 AI 전력 문제…“PIM 중요성 커질 것”

업계와 학계에선 PIM 상용화의 키워드로 ‘저전력’을 꼽고 있다. 지금은 생성형AI 시장의 초기 단계로 개발에만 한창이지만 전력 문제가 향후 사회적인 화두로 떠오르면 PIM의 중요성이 커질 수밖에 없어서다. 추후 저전력 고성능 반도체 수요가 높은 온디바이스AI 시장을 시작으로 공략하겠다는 게 업계의 복안이다. 특히 엔비디아 GPU의 경우 게임용으로 개발된 탓에 전력 소모량이 커서 저전력 고성능 반도체 수요는 시간문제로 여겨진다.

마켓워치에 따르면 미국의 AI 전력 수요량은 2023년 8Twh(테라와트시)에서 2030년 652Twh로 약 80배 증가할 전망이다. 지난해 서울시의 전력 소비량(44.5Twh)과 비교해 15배가 넘는다.

유회준 카이스트 PIM반도체설계연구센터장(전기·전자공학과 교수)은 “시장이 데이터센터용에 먹혀서 HBM에 머물고 있다”며 “엔비디아 GPU는 지금 너무 비싸고 구하기 어려워서 대체재가 나오면 언제든 교체될 수 있다. 전력 소모 문제가 커지면 어쩔 수 없이 시장은 PIM으로 넘어갈 것”이라고 말했다.

조민정 (jjung@edaily.co.kr)