소니드, 서울대·스타랩스와 협력해 CXL-GPU 기술 개발

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

패브릭 메모리 기반 연산 스토리지 기술 시스템 구조. 서울대 컨소시엄이 보유한 CXL 기술로 차세대 데이터 센터에서 메모리 용량과 대역폭 한계를 극복하고, 대규모 데이터 처리 성능을 확보할 것으로 기대된다. /사진제공=서울대학교 컴퓨터공학부

소니드가 차세대 인터페이스 기술인 컴퓨트 익스프레스 링크(CXL)를 활용, 인공지능(AI) 반도체의 메모리 용량 한계를 극복한 'CXL-GPU' 기술 개발에 나섰다고 17일 밝혔다. 기술 개발을 위해 소니드는 서울대학교 컴퓨터공학부 엄현상 교수팀과 AI 전문기업 스타랩스와 함께 컨소시엄(서울대 컨소시엄)을 구성했다.

최근 등장한 오픈AI의 쳇GPT와 메타의 라마(Llama)와 같은 AI 서비스는 처리하는 데이터 용량이 증가하면서 수십 테라바이트(TB)의 메모리를 탑재한 시스템을 요구하고 있다. 하지만 엔비디아의 H100 등 최고급 그래픽처리장치(GPU) 내부 메모리 용량은 수십 기가바이트(GB)에 불과하다. 이에 AI 서비스용 시스템 구축을 위해서는 여러 대의 GPU가 요구돼 고비용 문제가 지적됐다는 것이 회사측의 설명이다.

CXL-GPU 기술은 CPU와 GPU, 저장장치를 CXL 인터페이스로 연결하고 대용량 메모리를 GPU 내부에 직접 탑재함으로써 시스템 구축 비용을 낮추고 높은 성능을 확보한 것이 특징이다. CXL-GPU 기술은 그동안 산업계에서 활발히 연구되어 왔지만 메모리 읽기·쓰기 성능이 낮아서 상용화에 어려움을 겪어 왔다.

서울대 컨소시엄 측은 이 문제를 해결함으로써 기존 메모리 확장 기술보다 2배 이상 높은 성능을 구현할 계획이다. 향후 연구 과제로는 △보급형 및 고 성능형 클라우드 프리(Free) AI 플랫폼 양산 △AI 애플리케이션 통합 알고리즘 개발 △CXL 보드 3종 시험 생산 등을 진행해 나갈 예정이다. 컨소시엄은 연구개발 성과를 바탕으로 비대면 의료 시장 및 지능형 AI CCTV 시장에도 적극적으로 진출한다.

컨소시엄을 구성한 소니드, 서울대 엄현상 교수팀, 스타랩스는 다양한 AI 부문에서 활약해 왔다. 소니드는 자회사 소니드로보틱스를 통해서 지난 2월 영상 분석용 온디바이스 비전 인공지능(AI) '브레인봇' 개발을 완료하고 양산에 돌입했다. 브레인봇은 하드웨어(보드)와 소프트웨어(애플리케이션)로 구성됐다. 고급 컴퓨터 비전과 인공지능 알고리즘을 통해 실시간으로 영상 데이터를 분석해 특정 이벤트나 사람의 행동을 자동 감지한다.

서울대학교 엄현상 교수팀은 삼성전자-서울대 이종 시스템 최적화 요소 기술 개발 전략산학과제를 총괄하면서 '이종 메모리 효율적인 관리 기술'을 개발했다. 미국 로런스 버클리 국립연구소와 협력해 오면서 메모리 또는 스토리지 계층 활용 기술인 '효율적인 분산(버스트 버퍼) 스토리지 시스템 소프트웨어 기술'도 개발해 IEEE 클러스터 국제 학회에서 최고 논문상을 받았다.

AI 전문기업 스타랩스는 인공지능 연구 및 개발을 선도하면서 다양한 AI 알고리즘과 데이터 처리 기술을 통해서 혁신적인 AI 솔루션을 제공해 왔다. 스타랩스의 기술은 향후 CXL-GPU 기반 솔루션을 더욱 강화하고, AI 서비스 성능을 높이는데 기여할 것으로 기대된다.

오중건 소니드 대표는 "이번 협업과 기술 개발을 통해서 AI 반도체 시장에서의 경쟁력을 갖출 것"이라며 "CXL 기술을 활용한 혁신적인 메모리 확장 솔루션을 제공하기 위해 노력할 것"이라고 밝혔다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

박기영 기자 pgys@mt.co.kr