엔비디아 AI 가속기 시장 독점 막을 기술, KAIST가 내놨다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다.
이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI 모델을 구축하는 데 드는 비용을 줄일 것으로 기대된다.
CXL로 메모리 확장 장치를 GPU 메모리 공간에 통합시켜 GPU를 이어 붙이지 않아도 메모리 용량을 높일 수 있는 기술이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
AI에 필요한 메모리 확장 비용 절감
국내 연구진이 대규모 인공지능(AI)의 속도를 빠르게 높일 수 있는 그래픽저장장치(GPU) 기술을 개발했다. 이 기술은 메모리 용량을 확보하기 위해 값비싼 GPU를 많이 연결할 필요가 없어 대규모 AI 모델을 구축하는 데 드는 비용을 줄일 것으로 기대된다.
정명수 한국과학기술원(KAIST) 전기및전자공학부 교수 연구팀은 차세대 기술인 ‘컴퓨트 익스프레스 링크(CXL)’가 활성화된 고용량 GPU의 메모리 읽기·쓰기 성능을 최적화하는 기술을 개발했다고 8일 밝혔다.
최근 대규모 AI 서비스는 모델과 데이터 크기가 점점 커져 수십 TB(테라바이트·1TB는 1조 바이트)의 메모리를 요구한다. 반면 최신 GPU 내부 메모리 용량은 수십 GB(기가바이트)에 불과해 여러 대를 연결하는 방식을 사용하고 있다. 이 방식을 이용하면 엔비디아가 개발한 최신 GPU ‘H100′은 하나에 4000만~5000만원에 달해 AI 모델 가격이 높아진다는 문제가 있다.
연구팀은 차세대 연결 기술인 CXL을 활용해 대용량 메모리를 GPU 장치에 직접 연결하는 ‘CXL-GPU’ 구조 기술을 개발했다. CXL로 메모리 확장 장치를 GPU 메모리 공간에 통합시켜 GPU를 이어 붙이지 않아도 메모리 용량을 높일 수 있는 기술이다. 다만 CXL-GPU 기술은 그동안 산업계에서 활발히 연구됐지만, 메모리 읽기·쓰기 성능이 떨어져 실제로 적용되기 어려웠다.
연구팀은 CXL-GPU 장치의 메모리 읽기·쓰기 성능이 저하되는 원인부터 찾았다. 기존 CXL-GPU는 확장 메모리 장치의 읽기·쓰기가 GPU의 성능을 따라가지 못한다는 것이 문제였다. 연구팀은 메모리 확장 장치가 연결된 GPU에서 신호를 받아 미리 메모리 읽기를 수행하고, 쓰기 타이밍을 스스로 결정하도록 설계했다.
설계된 CXL-GPU는 반도체 팹리스 스타트업 파네시아에서 시제품을 만들었다. 파네시아는 초고속 CXL 컨트롤러 기술을 자체 개발한 국내 기업이다. 연구팀이 CXL-GPU 시제품을 분석한 결과, 기존 GPU 메모리 확장 기술보다 2.36배 빠르게 AI 서비스를 실행했다. 메모리 용량을 늘리기 위해 더이상 GPU를 대량으로 연결할 필요가 없는 것이다.
연구팀은 개발한 CXL-GPU 기술이 엔비디아의 AI 가속기 시장 독점을 막을 것으로 기대했다. 정명수 교수는 “CXL-GPU로 대규모 AI 서비스를 운영하는 빅테크 기업의 메모리 확장 비용을 획기적으로 낮추는 데 기여할 수 있을 것”이라고 말했다.
연구결과는 이번 달 미국 캘리포니아주 산타클라라시에서 열리는 유즈닉스(USENIX) 연합 학회에서 발표될 예정이다.
- Copyright ⓒ 조선비즈 & Chosun.com -
Copyright © 조선비즈. 무단전재 및 재배포 금지.
- 美아칸소서 리튬 ‘금맥’ 발견…“전 세계에 공급하고도 남는다”
- 삼성바이오로직스, 1조7000억원 역대 최대 수주 계약
- [경남 SMR 포럼] 테라파워·뉴스케일 “韓, SMR 공급망 핵심”
- “하루 3알 먹으면 살 빠져요”…최지우 앞세워 팔던 다이어트 건기식, 허위광고였다
- [단독] 공영홈쇼핑, 정부사업 우수社도 못 받은 프라임타임 뉴월드통상에 몰아줬다
- 에어프레미아 경영권 인수하거나 12% 벌고 나오거나…소노 서준혁의 ‘큰 그림’
- [끓는 바다]④ 고수온 직격타 맞는 ‘김’… 바다 떠나 땅으로
- 중동 수출 물꼬 튼 韓 사이버 보안 기업들… 다음 개척지는 어디
- 삼성·SK, 조직 개편·임원 축소 등 고강도 인사 예고
- 첫해부터 주주환원 약속 못지킬 YG엔터… 믿을 건 2NE1·GD 등 선배 가수뿐