“AI시스템서 D램 비용·전력 효율이 관건”

손교민 삼성전자 마스터 강연
“PIM·CXL 니즈 높아…개발 중”

전세계 인공지능(AI) 투자가 극심한 경쟁체제로 접어드는 가운데, 삼성전자가 프로세싱인메모리(PIM), 컴퓨트익스프레스링크(CXL) 등 차세대 메모리 시장은 이제 시작이라고 강조했다. 고가의 HBM만 활용하기에는 한계가 있는 만큼, 비용 및 활용도에 따른 다양한 메모리 제품에 대한 요구가 다양해지고 있다는 의미다.

손교민(사진) 삼성전자 메모리사업부 D램설계팀 마스터는 13일 서울 강남구 그랜드 파르나스 서울에서 열린 ‘인공지능반도체포럼 조찬강연회’에서 “HBM은 기존의 컴퓨팅 구조를 그대로 가져가면서 최대한의 밴드위스(대역폭)을 확보할 수 있는 현재로서는 유일한 솔루션”이라며 “CXL과 PIM은 이제 막 부상하는 이머징(emerging) 솔루션으로 HBM과 목적이 다르다”고 강조했다.

그는 “현재 AI 시장은 극심한 경쟁체제로 하드웨어 및 서비스 업체들의 HBM에 대한 대역폭 증가 니즈가 계속되고 있지만, 모든 시스템이 다 고가의 HBM을 쓸 수는 없다”며 “중간 레벨의 솔루션인 PIM도 고객과 협업해 PIM 관련 스펙을 계속해서 만들어나가고 있는 등 이제부터 시작”이라고 강조했다.

AI시대로 접어들면서 D램의 비용과 전력 효율성이 관건이 됐다. 실제로 인텔 시스템에서 전체 비용 중 높은 용량의 D램이 차지하는 비중은 37.5%로 상당히 높았다. 그는 “엔비디아 시스템에서도 GPU 내 HBM 가격이 포함돼 있기 때문에 비용 측면에서 D램이 차지하는 비중이 굉장히 높다”며 “비용이나 전력효율성이 이제 성능 측면에서 매우 중요하게 됐다”고 강조헀다.

그는 AI 시대 D램의 핵심은 셀 스케일링(미세화)를 지속하며 용량은 늘리고, 비용은 과하지 않아야 하는 것이라고 강조했다. 삼성전자는 D램의 한계를 극복하기 위해 ▷VCT D램 ▷4F2 셀 ▷하이브리드 본딩 ▷퍼 로우 액티베이션 카운터(Per row activation counter) 등 차세대 기술을 개발하고 있다.

낸드와 D램을 결합하는 하이브리드 D램도 대표적 예다. 빅테크 고객사들의 요구에 맞춰 ‘맞춤형 HBM’과 같은 D램의 파운드리(반도체 위탁생산)화도 진행 중이다. 그는 “HBM4의 경우 로직 다이에 파운드리 공정을 쓰기 때문에 다양한 고객이 원하는대로 만들어줄 수 있는 환경이 됐다”고 말했다. 김민지 기자