그래프코어 "AI 반도체 진화 거듭..엔비디아 'DGX A100' 학습 성능 능가"

그래프코어가 국내 클라우드 기업 NHN클라우드 테이터센터에 적용한 AI반도체 'IPU-POD16'가 학습 속도 테스트에서 최고 성능을 기록했다. AI 반도체 대표 기업 엔비디아 제품 대비 빠른 학습 성능을 구현했다고 회사는 설명했다. 그래코어는 삼성전자에 투자받고, NHN, KT에 공급 실적을 확보, 주목받고 있는 AI 반도체 기업이다.

페브리스 모이잔 그래프코어 부사장이 그래프코어 AI 반도체 성능 평가에 대한 간담회를 진행했다

페브리스 모이잔 그래프코어 글로벌 세일즈 부사장은 9일 온라인으로 열린 간담회에서 IPU-POD16가 고객사 벤치 마크에서 학습 속도 '28.3분'을 기록했다고 밝혔다. 그래프코어는 이 제품을 국내 클라우드 서비스 기업 NHN에 공급 이후 성과를 발표했다.

모이잔 부사장은 “IPU-POD16는 IPU 제품군 소프트웨어 최적화 서비스를 통해 향상된 성능을 제공한다”며 “특히 컴퓨팅 비전 모델 학습 훈련에서 엔비디아 'DGX A100'을 능가하는 성능을 보였다”고 강조했다. 그는 세부 성능을 공개하고 IPU-POD16는 28분대로 엔비디아 DGX A100 29.1분 대비 24% 성능 향상을 이뤘다고 덧붙였다.

글래프코어는 IPU 이전 제품군 훈련 시간 성능도 공개했다. 'IPU-POD128'과 'IPU-POD256'은 훈련 시간이 각각 5.67분, 3.79분을 기록했다.

모이잔 그래프코어 부사장은 “IPU 숫자는 즉 제품의 성능을 보여준다”며 “자연어 처리 성능 성과에서도 10.6분을 기록하면서 가장 빠른 단일 서버 훈련 시간을 보유했다는 것도 눈여겨 봐야 한다”고 강조했다. 그러면서 “그래프코어는 소프트웨어 개발키트 최적화와 신규 IPU 제품 출시를 거듭하며 AI 훈련 성능 향상에 노력을 기울일 것”이라고 강조했다.

한편 그래프코어 IPU를 사용하는 국내 주요 고객사는 KT와 NHN가 꼽힌다. KT는 IPU-POD128 모델을 최초로 도입한 국내 고객사다. AI 연구개발(R&D) 통합 솔루션 '하이퍼스케일 AI 서비스'에 IPU 제품군을 사용하고 있다. 그래프코어는 한국 기업과 협력으로 AI 반도체 생태계를 강화하겠다는 방침이다.

김지웅기자 jw0316@etnews.com