SK하이닉스 "연산 메모리, AI 데이터 병목 해결할 것"

임의철 부사장, 美 AI인프라서밋 발표…"PIM이 GPU·HBM 중심 한계 극복"

SK하이닉스가 메모리 반도체가 일정 수준의 간단한 연산까지 수행하는 '연산 가능 메모리'(PIM·Processing-In-Memory) 기술을 앞세워 인공지능(AI) 데이터 병목을 해결하겠다는 비전을 제시했다.

임의철 SK하이닉스 솔루션AT 담당 부사장은 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'AI 인프라 서밋'에 연사로 나서 그래픽처리장치(GPU)와 고대역폭 메모리(HBM) 중심 AI 인프라의 한계를 PIM으로 극복하겠다고 밝혔다.

PIM은 데이터를 메모리에서 그래픽처리장치(GPU) 등 AI 가속기로 옮겨 계산한 뒤 다시 메모리로 전송하던 기존 구조와 달리 간단한 연산은 메모리 내부의 연산장치가 직접 처리하는 방식이다.

메모리와 프로세서 사이의 데이터 이동을 줄여 AI 처리 속도와 전력 효율을 높일 수 있다.

삼성전자도 지난달 열린 반도체 학술대회 '핫칩스'에서 기기내장형(온디바이스) AI를 겨냥한 PIM을 발표한 바 있다.

임 부사장은 현재 AI 업계에서 초고속 추론이 필요할 때 주로 S램을 사용한다는 점을 언급하면서 "S램 기반 체계는 높은 대역폭을 제공하지만 용량과 비용 측면에서는 명확한 한계가 있다"고 지적했다.

그러면서 "PIM은 같은 면적에서 S램 대비 약 300배에 달하는 대용량을 제공하면서도 높은 내부 대역폭을 유지한다"고 설명했다.

회로 면적 증가에 따른 메모리 용량 부족과 단가 상승 등 그간 PIM의 한계로 거론돼온 요소에 대해선, 메모리 다이와 연산 다이를 따로 제작해 수직 연결하는 '혼합접착'(하이브리드 본딩) 기술로 이와 같은 한계를 해결할 수 있다고 강조했다. 또 PIM을 개별 칩 단위를 넘어 서버 랙 수준으로 확장하는 개념도 소개했다.

임 부사장은 모든 AI 서비스를 GPU와 HBM 조합 한 가지만으로 처리하는 단일 인프라 시대를 넘어 PIM과 고대역폭 플래시(HBF) 등 메모리 계층 전반에 걸친 하드웨어 혁신과 소프트웨어 최적화, 통합 설계가 이뤄져야 한다는 점을 역설했다.

이상현기자 ishsy@dt.co.kr

임의철 SK하이닉스 설루션AI 담당 부사장이 16일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 ‘AI 인프라 서밋’에서 ‘연산 가능 메모리’(PIM) 기술에 대해 발표하고 있다. 연합뉴스