GPU메모리 용량 확 키우는 기술 나왔다

장명수 KAIST 교수 연구팀이 제안한 'Ohm-GPU'기술 개념도. XPoint 메모리와 DRAM 메모리를 통합한 이종 메모리 시스템과 광네트워크 기반으로 용량과 대역폭을 높인 기술을 개발했다. KAIST 제공

정명수 KAIST 교수 연구팀은 이종 메모리와 광네트워크를 활용해 용량과 대역폭을 향상시킨 'GPU 메모리 시스템' 기술인 '옴-지피'를 내놨다. KAIST 제공

국내 연구진이 엔비디아 등 소수의 글로벌 IT기업이 개발하고 있는 GPU(그래픽처리장치) 메모리 용량과 성능을 대폭 향상시킨 기술을 개발했다. AI(인공지능), 빅데이터, 클라우드 컴퓨팅 등 대용량, 고대역폭 데이터를 처리하는 고성능 가속기 메모리 시스템에 쓰일 것으로 기대된다.

KAIST는 정명수 교수 연구팀이 '3D XPoint 메모리(DRAM에 비해 용량은 크지만 데이터 전송 속도가 느린 메모리)'와 DRAM 메모리(데이터 전송 속도는 빠르나 용량이 작은 메모리)를 통합한 이종 메모리 시스템에서 광네트워크로 통신하는 '옴-지피유(Ohm-GPU)' 기술을 개발했다고 2일 밝혔다.

GPU는 다수의 연산 장치로 구성돼 있어 연산 속도가 매우 빠르지만, DRAM을 단독 사용하기 때문에 낮은 메모리 용량과 좁은 데이터 전송 대역폭 등으로 인해 연산 성능을 충분히 발휘하지 못한다.

이 때문에 DRAM을 XPoint 메모리로 대체해 8배 많은 데이터 용량을 얻을 수 있는 데 반해, 읽기와 쓰기 성능은 각각 4배, 6배 떨어지는 한계가 있다.

아울러, 대역폭을 증가시키기 위해 HBM(3D로 DRAM을 쌓은 메모리) 기술을 적용하고 있으나, 단일 면적 내 장착할 수 있는 전기채널(구리선) 개수의 한계로 인해 GPU 메모리 시스템이 요구하는 대역폭을 만족시키기 어렵다.

연구팀은 대용량 XPoint와 고성능의 DRAM을 통합한 이종 메모리 시스템을 채택해 메모리 용량을 높였다. 또 단일 광채널(광섬유)로 서로 다른 파장의 다중 광신호를 전달할 수 있는 광 네트워크를 활용해 메모리 고대역폭을 구현했다.

'옴-지피'로 명명된 이 기술은 XPoint와 DRAM을 하나의 통합된 공간으로 구현해 대용량 메모리 공간을 제공하면서, XPoint와 DRAM 간 데이터 교체 처리를 통해 속도를 높였다. 두 메모리 간의 데이터 이동으로 생기는 오버헤드 역시 메모리 접근의 광 파장을 달리하고, 메모리 컨트롤러의 개입을 최소화해 완화했다고 연구팀은 설명했다.

기존 DRAM을 단독으로 사용하는 전기 네트워크 기반의 GPU 메모리 시스템에 비해 다양한 그래프 처리와 실행 등에서 1.8배 이상의 높은 성능 향상을 보였다.

정명수 KAIST 교수는 "옴-지피 기술은 기존 GPU가 지니고 있는 메모리 용량과 대역폭 문제를 광네트워크와 이종 메모리를 통해 극복한 것으로, GPU와 유사한 모든 고성능 가속기 메모리 시스템에 널리 활용할 수 있을 것"이라고 말했다.

이번 연구결과는 오는 10월 개최 예정인 컴퓨터 구조 분야 학술대회 '마이크로 2021'에서 발표될 예정이다.

이준기기자 bongchu@dt.co.kr