'넥스트 HBM' 찾는 AI업계

발열·전력소모·비싼 가격 등에
짐켈러·삼성 등 대체품 개발 나서
데이터 압축·모델 경량화도 병행

[서울경제]

인공지능(AI) 업계에서 고대역폭메모리(HBM)를 대체하려는 기술적 시도가 이어지고 있다. HBM은 강력한 연산 지원 능력을 바탕으로 AI 시대의 대표적 메모리 제품으로 자리잡았다. 하지만 가격이 비쌀 뿐만 아니라 전력 소모와 발열 등 약점도 분명해 대안을 찾는 기업들이 점차 늘어날 것으로 전망된다.

20일 반도체 업계에 따르면 현재 전 세계 다양한 기업들이 HBM을 대체할 수 있는 기술과 제품 개발에 착수했다. 반도체 업계의 ‘전설’로 통하는 짐 켈러가 이끄는 AI 스타트업인 텐스토렌트가 대표적이다. 이 회사는 HBM 대신 그래픽용 D램(GDDR)을 탑재한 AI 가속기 ‘웜홀’을 내놓았고 이르면 연내 후속작인 ‘퀘이사’를 출시할 예정이다. GDDR은 데이터가 드나드는 도로인 입출력(I/O) 통로가 HBM보다 적다는 단점이 있지만 데이터 전송 속도는 HBM 수준으로 빠르고 제조 비용도 상대적으로 낮아 HBM의 대안 중 하나로 꼽히고 있다.

저전력D램(LPDDR)도 HBM의 대안 중 하나다. 실제 삼성전자와 네이버가 협업해 개발하고 있는 AI 가속기 마하 시리즈에 HBM 대신 LPDDR이 탑재된다.

메모리반도체의 데이터 병목현상 그 자체를 해결하려는 연구도 병행되고 있다. 병목현상이 완화되면 HBM 의존도 줄어들기 때문이다. AI 연산의 최대 과제인 메모리 병목은 기존 메모리 성능으로 AI 애플리케이션이 요구하는 데이터를 제때 처리해주지 못하기 때문에 발생한다. 반도체 업계의 한 관계자는 “GPU와 메모리 사이에 오고 가는 데이터의 용량을 줄이거나 AI 모델 자체를 경량화하는 게 최근 업계의 화두로 떠올랐다”고 설명했다.

HBM 부상의 최대 수혜자인 SK하이닉스 역시 ‘포스트 HBM’을 주시하고 있다. 회사는 미국 인디애나주에 건설 중인 차세대 패키징 연구개발 시설을 통해 차세대 HBM은 물론 HBM의 높은 전력 소모와 발열 등을 보완할 수 있는 차세대 AI 메모리를 개발하는 데 중점을 둘 계획이다.

류성수 SK하이닉스 부사장은 “앞으로 AI 시장은 세분화될 것”이라며 “지금의 HBM보다 성능과 저전력에서 20~30배 개선되고 차별화한 메모리 제품을 목표의 한 가지 축으로 전개해야 할 것”이라고 강조했다.

허진 기자 hjin@sedaily.com