메모리 '폭식' AI…삼성전자 CXL 기술로 극복

CXL 솔루션, CPU‧GPU‧스토리지 효율적 연결로 빠른 연산 처리 가능

최장석 삼성전자 메모리사업부 신사업기획팀장(상무)이 18일 구 태평로빌딩 기자실에서 열린 설명회에서 '삼성전자 CXL 솔루션'에 대해 설명하고 있다. ⓒ삼성전자

AI(인공지능) 수요와 발달이 가속화 되면서 폭발적으로 늘어나는 데이터 처리량에 대응하기 위해 삼성전자가 ‘CXL(Compute Express Link) 솔루션’을 제시했다.

삼성전자가 18일 중구 태평로빌딩 기자실에서 설명회를 열고 '삼성전자 CXL 솔루션'의 기술적 방향과 효용성에 대해 설명했다.

CXL(Compute Express Link)은 '빠르게 연결해서 연산한다'는 의미로 CPU, GPU, 스토리지 등의 다양한 장치를 효율적으로 연결해 보다 빠른 연산 처리를 가능하게 하는 차세대 인터페이스다.

CXL 기반의 D램인 CMM-D(CXL Memory Module-DRAM)는 다양한 종류의 프로세서를 하나의 시스템으로 연결해 대용량의 데이터를 효율적으로 처리할 수 있도록 하는 제품이다.

또 D램의 용량 및 성능 확장 한계를 개선할 수 있어 AI시대 차세대 솔루션으로 떠오르고 있다.

AI는 학습과 추론 등을 위해 폭발적인 데이터 처리량을 요구한다. 하지만 기존 서버에서 사용하던 D램은 한정된 범위 내에서만 용량을 확장할 수 있어 AI 기술이 발전할수록 대규모 용량의 데이터를 처리하는데 한계가 있다.

따라서 고속 인터페이스를 사용하고 용량 확장이 용이한 CXL 기반 D램 제품이 차세대 메모리 솔루션으로 각광받고 있다.

기존 D램과 공존하며 시스템 내 대역폭과 용량을 확장할 수 있는 CXL D램 솔루션은 폭발적인 데이터 처리가 요구되는 차세대 컴퓨팅 시장에서 더욱 주목받을 것으로 예상된다.

데이터센터나 서버의 용량을 확장하기 위해서는 추가적으로 서버를 증설해야 했으나, 기존 서버에서 SSD를 꽂던 자리에 그대로 CMM-D를 꽂아 사용하면 편리하게 용량을 확장할 수 있다.

특히 지난해 5월 개발 완료한 삼성전자의 'CXL 2.0 D램'은 업계 최초로 '메모리 풀링(Pooling)' 기능을 지원한다.

'메모리 풀링'이란 서버 플랫폼에서 다수의 CXL 메모리를 묶어 풀(Pool)을 만들고, 각각의 호스트가 풀에서 메모리를 필요한 만큼 나누어 사용할 수 있는 기술이다.

이를 이용하면 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있어 데이터 전송 병목현상이 줄어든다.

데이터센터의 경우에도 효율적인 메모리 사용으로 서버 운영비를 절감할 수 있는 장점이 있어 총 소유 비용(TCO, Total Cost of Ownership) 절감이 가능하다.

CXL 제품 이미지. ⓒ삼성전자

삼성전자는 2021년 5월 업계 최초 CXL 기반 D램 제품 개발을 시작으로, 업계 최고 용량 512GB CMM-D 개발, 업계 최초 CMM-D 2.0 개발 등에 성공하며 업계를 선도하고 있다.

지난 3월에는 글로벌 반도체 학회 '멤콘(MemCon) 2024'에서 CXL 기반 D램인 CMM-D, D램과 낸드를 함께 사용하는 CMM-H(Hybrid), 메모리 풀링 솔루션 CMM-B(Box) 등 다양한 CXL 기반 솔루션을 선보였다.

또, 올해 2분기 CXL 2.0을 지원하는 256GB(기가바이트) CMM-D 제품을 출시하고, 주요 고객사들과 검증을 진행하고 있다.

뿐만 아니라 업계 최초로 리눅스 업체 레드햇으로부터 인증 받은 CXL 인프라를 보유하고 있어, CXL 관련 제품부터 소프트웨어까지 서버 전 구성 요소를 삼성 메모리 리서치 센터에서 검증할 수 있다.

삼성전자는 CXL 컨소시엄을 결성한 15개 이사회 회원사 중 하나로, 메모리 업체 중 유일하게 이사회 멤버로 선정돼 CXL 기술의 고도화 및 표준화를 위한 역할을 수행하고 있다.

CXL 컨소시엄은 CXL 표준화와 인터페이스의 진화 방향 등에 대해 논의하는 협회로, 삼성전자 외에 알리바바 그룹, AMD, Arm, 시스코 시스템즈, 델 EMC, 구글, 휴렛팩커드 엔터프라이즈, 화웨이, IBM, 인텔, 메타, MS, 엔비디아, 램버스 같은 빅테크 기업들이 이사회 회원사로 참여하고 있다.

삼성전자는 2019년 CXL 컨소시엄 발족 초기부터 글로벌 주요 데이터센터, 서버, 칩셋, 메모리 업체 등과 함께 CXL 생태계 확산을 위한 적극적인 활동을 이어나가고 있다.