델-허깅페이스, 온프레미스 생성형 AI 구축 지원 '맞손'

델 테크놀로지스가 허깅페이스(Hugging Face)와 고객사가 오픈소스 생성형 인공지능(AI)을 구축하고 미세 조정해 운영할 수 있도록 지원하는 데 협력한다.

허깅페이스는 머신러닝(ML) 모델을 구축, 배포 및 교육하기 위한 도구와 리소스를 개발하는 프랑스계 미국 회사이자 오픈소스 커뮤니티다.

양사는 허깅페이스 플랫폼에 델 포털(Dell Portal)을 구축, 업계에서 가장 많이 판매된 델의 인프라 솔루션에 맞춤형 거대언어모델(LLM)을 온프레미스로 구축할 수 있도록 지원할 예정이다.

허깅 페이스의 델 포털엔 커스텀, 전용 컨테이너, 스크립트 등이 제공된다. 기업은 이를 활용해 델 서버와 스토리지를 기반으로 허깅 페이스에 올라온 오픈소스 모델을 쉽고 안전하게 배포할 수 있다. 향후 델 인프라에 최적화된 컨테이너 업데이트를 이어가면서 새로운 생성형 AI 활용 사례와 모델에 맞게 성능을 향상해 나갈 계획이다.

김경진 한국 델 테크놀로지스 총괄사장은 “생성형 AI의 새로운 모델을 구축·확장하기 위한 전략적 투자가 빠르게 늘고 있으나 이를 구현하는 과정에서 원치 않는 복잡성으로 어려움을 겪는 것도 사실”이라며 “델과 허깅 페이스 협력으로 고객이 신뢰가 보장되는 담대한 혁신을 이어갈 수 있을 것으로 기대한다”고 말했다.

조재학 기자 2jh@etnews.com