삼성 D램설계팀 마스터 “극심한 AI 경쟁, HBM만 쓸 순 없을 것…PIM 등 차세대 메모리 이제 시작”

손교민 마스터, 인공지능반도체포럼 강연
“PIM·CXL 니즈 높아…스펙 개발 및 논의 중”
AI 시스템서 D램 비용·전력 효율이 관건
“맞춤형 HBM로 D램 파운드리 시대 열려”

손교민 삼성전자 메모리사업부 D램설계팀 마스터가 13일 서울 강남구 그랜드 파르나스 서울에서 열린 ‘인공지능반도체포럼 조찬강연회’에서 발표하고 있다. 김민지 기자

[헤럴드경제=김민지 기자] 전세계 인공지능(AI) 투자가 극심한 경쟁체제로 접어드는 가운데, 삼성전자가 프로세싱인메모리(PIM), 컴퓨트익스프레스링크(CXL) 등 차세대 메모리 시장은 이제 시작이라고 강조했다. 고가의 HBM만 활용하기에는 한계가 있는 만큼, 비용 및 활용도에 따른 다양한 메모리 제품에 대한 요구가 다양해지고 있다는 의미다.

손교민 삼성전자 메모리사업부 D램설계팀 마스터는 13일 서울 강남구 그랜드 파르나스 서울에서 열린 ‘인공지능반도체포럼 조찬강연회’에서 “HBM은 기존의 컴퓨팅 구조를 그대로 가져가면서 최대한의 밴드위스(대역폭)을 확보할 수 있는 현재로서는 유일한 솔루션”이라며 “CXL과 PIM은 이제 막 부상하는 이머징(emerging) 솔루션으로 HBM과 목적이 다르다”고 강조했다.

손 마스터는 삼성전자의 차세대 메모리반도체 개발을 이끄는 핵심 인물 중 한명으로, 2021년 HBM 메모리 내부에 시스템 반도체인 AI 프로세서를 집어넣은 HBM-PIM 반도체의 세계 최초 개발을 주도했다.

그는 “현재 AI 시장은 극심한 경쟁체제로 하드웨어 및 서비스 업체들의 HBM에 대한 대역폭 증가 니즈가 계속되고 있지만, 모든 시스템이 다 고가의 HBM을 쓸 수는 없다”며 “중간 레벨의 솔루션인 PIM도 고객들과 협업해 PIM 관련 스펙을 계속해서 만들어나가고 있는 등 이제부터 시작”이라고 강조했다.

AI 시대로 접어들면서 D램의 비용과 전력 효율성이 관건이 됐다. 실제로 인텔 시스템에서 전체 비용 중 높은 용량의 D램이 차지하는 비중은 37.5%로 상당히 높았다.

그는 “엔비디아 시스템에서도 GPU 내 HBM 가격이 포함돼 있기 때문에 비용 측면에서 D램이 차지하는 비중이 굉장히 높다”며 “비용이나 전력효율성이 이제 성능 측면에서 매우 중요하게 됐다”고 강조헀다.

그는 AI 시대 D램의 핵심은 셀 스케일링(미세화)를 지속하며 용량은 늘리고, 비용은 과하지 않아야 하는 것이라고 강조했다. 삼성전자는 D램의 한계를 극복하기 위해 ▷VCT D램 ▷4F2 셀 ▷하이브리드 본딩 ▷퍼 로우 액티베이션 카운터(Per row activation counter) 등 차세대 기술을 개발하고 있다.

낸드와 D램을 결합하는 하이브리드 D램도 대표적 예다.

손 마스터는 “D램의 높은 속도와 낸드의 높은 용량을 잘 조화시킬 수 있도록 D램과 낸드를 섞는 하이브리드 구조도 있다”며 “연구소에서 다양한 메모리가 연구되고 있다”고 말했다.

빅테크 고객사들의 요구에 맞춰 ‘맞춤형 HBM’과 같은 D램의 파운드리(반도체 위탁생산)화도 진행 중이다.

그는 “예전에는 대량 양산 수요가 있어야 제품을 개발할 수 있었는데 지금은 시대가 바뀌고 있다”며 “HBM4의 경우 로직 다이에 파운드리 공정을 쓰기 때문에 다양한 고객이 원하는대로 만들어줄 수 있는 환경이 됐다”고 말했다. 이어 “HBM 개발을 담당하는 메모리사업부에서 고객의 요구에 맞는 메모리를 만들기 시작했다는 것이 커스터마이제이션(맞춤형)으로 할 수 있는 여지가 생겼다는 의미”라며 “많은 고객분들이 요구를 하셔서 논의 중”이라고 말했다.