AI·빅데이터 맞춰 자유롭게 메모리 확장..KAIST, 차세대 메모리 플랫폼 기술 개발

차세대 인터페이스 'CXL 2.0' 기반 메모리 확장 플랫폼
대용량 그래프 분석, 인메모리 DB 처리속도 최고 3배 높여

다이렉트CXL과 기존 RDMA 기반 메모리 확장 플랫폼의 지연시간 및 응용 실행시간 비교 KAIST 제공

다이렉트CXL 플랫폼의 개요 및 CXL1.0,1.1과 CXL2.0의 차이 KAIST 제공

KAIST 연구진이 자유로운 메모리 확장을 지원해 대용량 데이터 처리가 필요한 AI(인공지능), 빅데이터 분야에서 폭넓게 쓰일 수 있는 기술을 개발했다.

KAIST는 정명수 전기및전자공학부 교수 연구팀(컴퓨터아키텍처 및 메모리시스템연구실)이 차세대 인터페이스 기술인 'CXL(컴퓨트 익스프레스 링크) 2.0' 기반의 메모리 확장 플랫폼 '다이렉트CXL'의 프로토타입을 제작하고 운영체제를 적용해 기술시연에 성공했다고 1일 밝혔다.

빅데이터 분석, 그래프 분석, 인메모리 데이터베이스 등을 처리하기 위해 각 데이터센터는 시스템 메모리에 많은 투자를 한다. 그러나 흔히 알려진 메모리 확장 방식인 DDR(더블 데이터 대역폭) 인터페이스는 추가할 수 있는 메모리 개수의 제한이 있다. 이 때문에 데이터센터에서는 CPU(중앙처리장치)와 메모리로 이뤄진 메모리 노드를 따로 구성하고, 호스트의 메모리가 부족하면 네트워크로 연결된 메모리 노드를 자신의 메모리 공간으로 사용하는 RDMA(원격 데이터 전송 기술) 기반의 메모리 확장을 사용한다.

그런데 RDMA 기반 메모리 확장 시스템은 노드 간 데이터 이동 시 불필요한 데이터 복사, 소프트웨어의 개입, 프로토콜 전환으로 인한 지연이 발생해 성능이 떨어졌다. 또 메모리 확장 시 메모리만 추가하는 게 아니라, 메모리와 메모리를 제어할 CPU가 하나의 메모리 노드를 이뤄 시스템에 추가되다 보니 추가적인 비용이 들었다.

최근 등장한 CXL 프로토콜은 PCIe(PCI 익스프레스) 인터페이스를 이용해 CPU와 디바이스를 연결하는 프로토콜로, 높은 성능과 확장성이 강점이다. 국내외 유수 기업들이 모여 CXL 표준규약을 제안하는 CXL 컨소시엄은 지난 2019년 CXL 1.0·1.1을 처음 제안한 데 이어 CXL 2.0도 발표했다. 하나의 포트당 한 개 지역 메모리 장치만 연결할 수 있었던 점을 개선, 하나의 포트를 여러 포트로 확장할 수 있도록 했다. 그 결과 확장된 포트에 다수의 원격 CXL 메모리 장치를 연결하는 게 가능해 확장성이 개선됐다. 그러나 시제품 개발과 연구에 속도가 나지 않았다.

정명수 교수팀이 개발한 CXL 2.0 기반 메모리 확장 플랫폼 '다이렉트CXL'은 △메모리를 확장해 주는 장치인 'CXL 메모리 장치' △호스트 'CXL 프로세서(CPU)' △여러 호스트를 다수의 CXL 메모리 장치에 연결해주는 'CXL 네트워크 스위치' △메모리 확장 플랫폼 전반을 제어하는 리눅스 운영체제 기반의 'CXL 소프트웨어 모듈' 등으로 구성됐다.

플랫폼을 사용한 시스템에서는 확장된 메모리 공간에 직접 접근해 데이터를 CPU의 캐시로 가져와 불필요한 메모리 복사와 소프트웨어의 개입이 없다. PCIe 인터페이스만을 사용해 프로토콜 전환을 없앰으로써 지연시간도 최소화했다. 또한 추가적인 CPU가 필요 없는 CXL 메모리 장치를 CXL 스위치에 연결하는 것만으로 메모리 확장이 가능해 효율적인 시스템 구성이 가능했다. 국내외 일부 기업이 메모리 장치 일부 단품 구성사례를 보여준 적은 있지만 CPU부터 CXL 스위치, 메모리 장치가 장착된 시스템에서 운영체제를 동작시키고 데이터센터와 연계해 시연한 것은 정 교수팀이 처음이다.

연구팀이 제안한 다이렉트CXL은 확장 메모리 접근시간에서 기존 RDMA 기반 메모리 확장 솔루션 대비 8.3배의 성능 향상을 보였다. 많은 메모리 접근을 요구하는 그래프 응용처리와 인메모리 데이터베이스 응용처리 성능도 각각 2.3배, 2배 향상됐다.

정명수 교수는 "세계 최초로 개발된 CXL 2.0 기반의 프로토타입 플랫폼을 바탕으로 CXL을 활용한 시스템 구축의 초석을 제공하겠다"고 말했다. 안경애기자 naturean@dt.co.kr