KAIST, 세계 최초 그래프 기반 인공지능 추론 가능한 SSD 개발

엔비디아 GPU 성능 7배 능가 33배 에너지 절약
교통 예측 시스템, 신약개발 등 활용 기대

(대전=뉴스1) 심영석 기자 = KAIST 전기및전자공학부 정명수 교수 연구팀이 세계 최초로 그래프 기반 인공지능 추론 가능한 SSD 가속기를 개발했다.

10일 KAIST에 따르면 이 기술은 그래프처리, 그래프샘플링 등 모든 그래프 기반 신경망 기계학습의 전 과정을 모두 가속화하며 데이터가 저장된 스토리지 근처에서 바로 처리 가능하다.

그래프 자료구조가 적용된 새로운 기계학습 모델은 기존 신경망 기반 기계학습 기법들과 달리 데이터 사이의 연관 관계를 표현할 수 있다.

이에 따라 페이스북, 구글 등 대규모 소셜 네트워크 서비스(SNS), 내비게이션, 신약개발 등 광범위한 분야와 응용에서 사용된다.

하지만, 이 모델은 데이터 전처리 과정에서 심각한 성능 병목현상과 함께 장치 메모리 부족 현상으로 실제 시스템 적용에 한계를 보여 왔다.

이번에 개발된 기술은 그래프 데이터 자체가 저장된 스토리지 근처에서 사용자 요청에 따른 추론의 모든 과정을 직접 가속한다.

즉, 데이터 근처(Near Storage)에서 그래프처리 및 그래프 샘플링 등을 가속해 그래프 기계학습 전처리 과정에서의 병목현상을 해결한 것이다.

또, 일반적인 계산형 스토리지는 장치 내 고정된 펌웨어와 하드웨어 구성을 통해서 데이터를 처리해야 했기 때문에 그 사용에 제한이 있었다.

이에 연구팀은 Δ인공지능 추론 가속에 필요한 다양한 하드웨어 구조 Δ다수 그래프 기계학습 모델을 프로그래밍할 수 있는 장치수준의 소프트웨어 Δ사용자가 자유롭게 변경할 수 있는 신경망 가속 하드웨어 프레임워크 구조를 설계했다.

실제, 연구팀은 홀리스틱 GNN 기술의 실효성을 검증하기 위해 계산형 스토리지의 프로토타입을 자체 제작한 후, 그 위에 개발된 그래프 기계학습용 하드웨어 RTL과 소프트웨어 프레임워크를 구현해 탑재했다.

그 결과, 최신 고성능 엔비디아 GPU를 이용한 기계학습 가속 컴퓨팅 대비 7배의 속도 향상과 33배의 에너지 절약을 가져올 수 있다는 것을 확인했다.

정명수 교수는 “기존 고성능 가속 시스템을 대체해 초대형 추천시스템, 교통 예측 시스템, 신약개발 등 광범위하게 적용될 수 있을 것”이라고 말했다.

한편, 이번 연구성과는 미국 산호세에서 오는 2월에 열릴 스토리지 시스템 분야 최우수 학술대회인 ‘유즈닉스 패스트 2022’에서 관련 논문으로 발표될 예정이다.

km5030@news1.kr

사회