삼성·SK 혈안…AI 반도체 또다른 게임체인저 온다

AI 반도체 판도 뒤흔든 HBM 이어
'똑똑한 메모리' PIM 상용화 검토
SK에 HBM 뒤진 삼성 '절치부심'

[이데일리 김정남 기자] 인공지능(AI) 시대를 맞아 반도체업계에서 가장 주목 받은 게 고대역폭메모리(HBM)다. HBM의 시장성에 대한 판단 차이로 희비가 엇갈렸기 때문이다. 개발 드라이브를 건 SK하이닉스는 빠르게 흑자 전환에 성공했고, 보수적으로 접근한 삼성전자는 업계 수위를 위협 받았다.

다만 HBM만으로 시장 구도가 굳어질 것으로 보는 인사는 거의 없다. AI의 미래에 대한 전망 자체가 어려운 만큼 이와 함께 움직이는 AI 반도체 역시 새로운 제품들이 쏟아질 것으로 보여서다. 그렇다면 HBM의 뒤를 이어 반도체 판도를 뒤흔들 제품은 무엇일까. 메모리반도체와 비메모리반도체를 하나로 합치자는 개념을 갖고 탄생한 지능형 반도체인 프로세싱인메모리(PIM)가 선두주자로 꼽힌다.

특히 HBM에서 SK하이닉스에 선두를 내주며 자존심을 구긴 삼성전자가 PIM 개발에 매진하고 있어, 상용화 시점에 관심이 모아진다.

SK하이닉스의 HBM3와 삼성전자 HBM-PIM 제품 사진. (사진=각 사)

11일 업계에 따르면 삼성전자(005930) DS부문은 모바일용 D램인 LPDDR5와 그래픽용 D램인 GDDR6를 PIM으로 상용화하는 방안을 검토하고 있다. 기업용 AI 서버뿐만 아니라 일상에서 쓰는 스마트폰, 태블릿PC 등에 PIM을 적용해 온디바이스(On Device) AI를 고도화하겠다는 것이다.

PIM은 말 그대로 메모리 안에서 연산을 할 수 있는 연산장치(프로세서) 기능을 더한 개념이다. 기존 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 메모리와 프로세서로 이원화한데 반해 둘을 더한 셈이다. 이 때문에 데이터가 메모리와 연산장치를 오가며 발생하는 비효율을 줄여 처리속도가 빨라지고 전력 소모가 확 줄어드는 장점이 있다.

PIM이 최근 주목 받는 것은 AI 시대 들어 활용도가 높을 것으로 보이기 때문이다. AI를 고도화하는 과정에서 엄청난 연산 능력이 필요한 만큼 초고성능 메모리가 필요하다는 것이다.

반도체업계 한 인사는 “PIM은 GPU와 같은 범용이 아니라 특정 고객사와 응용처를 중심으로 한 맞춤형으로 상용화가 이뤄질 것”이라고 했다. 실제 삼성전자는 HBM3, LPDDR5, GDDR6 등 각종 스페셜티 D램에 PIM을 적용하는 식의 상용화를 목표로 개발을 진행 중인 것으로 알려졌다. 삼성전자는 지난 2021년 세계 최초로 HBM2를 기반으로 한 HBM-PIM을 개발하면서 상용화 가능성을 엿봤다. HBM2에 PIM을 적용하면서 전력 소모는 70% 이상 개선됐고 처리 속도는 두 배 이상 빨라졌다. 또 다른 ‘게임체인저’로 부상할 수 있을 정도의 성능이라는 평가다.

SK하이닉스(000660) 역시 PIM의 시장성에 눈독을 들이고 있다. 지난해 이미 그래픽용 D램에 PIM을 적용한 GDDR6-AiM 시제품을 공개했다. GDDR6-AiM을 기반으로 한 생성형 AI 가속기 카드인 AiMX 시제품까지 시연했다. 이는 기존 GPU를 쓸 때보다 고성능 저전력을 구현할 수 있는 솔루션이라는 게 SK하이닉스의 설명이다.

업계에서는 PIM의 상용화 시점을 늦어도 내년으로 보고 있다. 업계 한 고위인사는 “내년이면 데이터센터, 온디바이스 등 중요한 응용처를 확보할 수 있을 것”이라며 “전통적인 메모리 시장의 판도를 뒤바꿀 수도 있다”고 했다. 올해 메모리업계에서 수익성 높은 HBM이 업계 판도를 흔들겠지만 내년에는 PIM이 본격적으로 돈을 벌어다 줄 수 있다는 의미다. 특히 HBM에서 SK하이닉스에 뒤처지는 수모를 당한 삼성전자가 PIM을 통해 AI 반도체 시장을 다시 이끌 수 있을 지가 주요 관전 포인트다.

김정남 (jungkim@edaily.co.kr)