KAIST 그래프 기반 기계학습 기술 개발.."엔비디아 보다 7배 빠르다"

정명수 교수팀, 추론 속도 높이고 에너지 줄여

[이데일리 강민구 기자] 국내 연구진이 최신 고성능 엔비디아 GPU를 이용한 기계학습 가속 컴퓨팅과 비교해 7배 속도를 높이고, 33배 에너지 사용을 줄일 수 있는 기술을 선보였다.

정명수 KAIST 교수.(사진=KAIST)

한국과학기술원은 정명수 전기전자공학부 교수 연구팀이 ‘전체론적 그래프 기반 신경망 기계학습 기술’을 개발했다고 10일 밝혔다.

그래프 자료구조가 적용된 새로운 기계학습 모델은 기존 신경망 기반 기계학습 기법들과 달리 데이터 간 연관 관계를 표현할 수 있다. 때문에 페이스북, 구글, 링크드인, 우버 등 대규모 소셜 네트워크 서비스부터 내비게이션, 신약개발 등에 쓰인다.

기존 그래프 기반 신경망 기계학습은 GPU와 같은 일반 기계학습의 가속 시스템을 써서 연산했는데 데이터 전처리 과정에서 성능이 줄어들었다. 장치 메모리가 부족해진다는 한계도 있었다.

정명수 교수 연구팀이 개발한 기술은 그래프 데이터 자체가 저장된 스토리지 근처에서 사용자 요청에 따른 추론의 모든 과정을 직접 가속한다. 인공지능 추론 가속에 필요한 다양한 하드웨어 구조, 그리고 소프트웨어를 지원하도록 다수 그래프 기계학습 모델을 프로그래밍할 수 있는 장치수준의 소프트웨어와 사용자가 자유롭게 바꿀 수 있는 신경망 가속 하드웨어 프레임워크 구조도 제공한다.

연구팀은 기술 검증을 위해 계산형 스토리지의 시제품을 만든 후 그 위에 개발된 그래프 기계학습용 하드웨어 RTL과 소프트웨어 프레임워크를 구현해 탑재했다. 시제품과 최신 고성능 엔비디아 GPU 가속 시스템을 평가한 결과, 시제품이 이상적인 상황에서 기존 엔비디아 GPU를 이용해 그래프 기계학습을 가속하는 시스템 대비 평균 7배 빠르고 33배 에너지를 적게 썼다.

정명수 교수는 “대규모 그래프에 대해 스토리지 근처에서 그래프 기계학습을 고속으로 추론하고, 에너지 절약에 최적화된 계산형 스토리지 가속 시스템을 확보했다”며 “기존 고성능 가속 시스템을 대체해 초대형 추천시스템, 교통 예측 시스템, 신약 개발 등에 쓸 수 있다”고 말했다.

연구 결과는 미국 산호세에서 다음달에 열리는 국제 학술대회 ‘유즈닉스 패스트 2022’에서 논문으로 발표될 예정이다.

강민구 (science1@edaily.co.kr)