메모리 8배 늘리고 1.8배 빠른 GPU 시스템 만들었다

KAIST, 광섬유 기반 GPU 메모리 시스템 개발

GPU. 게티이미지 제공

[파이낸셜뉴스] 국내 연구진이 서로 다른 메모리와 광섬유를 활용해 그래픽처리장치(GPU) 메모리 용량을 8배 늘리고 1.8배 빠르게 만들었다. 연구진은 새로운 GPU 메모리 시스템이 인공지능(AI), 빅데이터, 클라우드 컴퓨팅 등 고성능 가속기의 메모리 시스템을 대체할 수 있을 것으로 전망했다.

한국과학기술원(KAIST)은 전기및전자공학부 정명수 교수팀이 3D XPoint 메모리와 DRAM 메모리를 통합한 메모리 시스템에서 광 네트워크로 통신하는 '옴-지피유(Ohm-GPU)' 기술 개발했다고 2일 밝혔다. 연구진은 이 기술을 이용해 기존 GPU 메모리 시스템보다 181% 이상 성능을 끌어올렸다.

정명수 교수는 "GPU 메모리 시스템 기술은 일부 해외 유수 기업이 주도하고 있지만, 이번 연구성과를 기반으로 GPU 및 GPU와 유사한 모든 고성능 가속기 메모리 시스템 관련 시장에서 우위를 선점할 가능성을 열었다는 점에서 의미가 있다"고 말했다.

연구진이 개발한 기술은 대용량 XPoint와 고성능의 DRAM을 통합한 이종 메모리 시스템을 채택했다. 이를 통해 기존 메모리 시스템과 동일한 성능을 가지면서도 메모리의 용량을 증가시켰다. 또한, 단일 광섬유로 서로 다른 파장의 다중 광신호를 전달할 수 있는 광 네트워크의 장점을 활용해 메모리 대역폭을 대폭 넓힘으로써 기존 GPU 메모리 시스템의 한계점들을 전면 개선했다.

'옴-지피유' 기술은 GPU 내부에 있는 메모리 컨트롤러와 인터페이스를 수정해 이종 메모리의 모든 메모리 요청을 광신호로 처리한다. 메모리 요청은 일반적으로 DRAM 캐시 메모리에서 처리되지만, DRAM에 없는 데이터는 XPoint로부터 읽어와야 한다. 이때, 발생하는 이종 메모리 간 데이터 이동의 대기 시간은 연산을 위한 메모리 접근과 데이터 이동을 위한 메모리 접근의 광 파장을 다르게 설정하고, 메모리 컨트롤러 개입을 최소화하고 XPoint 컨트롤러가 이종 메모리 간 데이터 이동을 수행함으로써 완화했다.

이 기술은 광섬유를 기반으로 이종 메모리 시스템의 장점을 살리고 단점을 보완해, 기존 DRAM을 단독으로 사용한 구리선 기반의 GPU 메모리 시스템보다 1.8배 이상의 빠르다.

한편, 이번 연구결과는 올해 10월에 열릴 컴퓨터 구조 분야 최우수 학술대회인 '마이크로(MICRO) 2021'에서 발표될 예정이다.

기존 GPU는 여러개의 연산 장치로 구성돼 연산 속도가 매우 빠르다. 하지만 DRAM을 단독으로 사용하는 메모리 시스템은 낮은 메모리 용량과 좁은 데이터 전송 대역폭으로 연산 성능을 충분히 활용하지 못하는 문제가 있다. 용량을 증가시키는 대안으로 DRAM을 XPoint로 대체하는 방법이 있지만 이때 8배 큰 메모리 용량을 얻을 수 있는 반면 읽기와 쓰기의 성능이 4배, 6배로 낮아진다. 또한, 대역폭을 증가시키는 대안으로 DRAM을 쌓아 고대역폭을 얻을 수 있는 'HBM' 기술을 활용할 수 있지만, 단일 면적 내 장착할 수 있는 전기 채널 개수 한계로 GPU 메모리 시스템이 요구하는 고대역폭을 만족하기 어렵다.
#한국과학기술원 #인공지능 #KAIST #클라우드 #메모리 #네트워크 #광섬유 #GPU #DRAM #그래픽처리장치