"AI 전력소비 낮추고 활용범위 넓힌다" 리벨리온·스퀴즈비츠 맞손

고석용 기자 2024. 5. 29. 12:01
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

양사는 파트너십을 기반으로 다양한 SLM을 경량화·최적화해 리벨리온의 NPU에서 구동할 때 효율화하는 기술을 개발해 나갈 계획이다.

김형준 스퀴즈비츠 대표는 "리벨리온과의 협력을 통해 AI서비스를 개발하는 기업 고객들에게 다양한 하드웨어 옵션을 제공할 수 있게 됐다"며 "다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공해 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것"이라고 말했다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

(왼쪽 두번째부터)박성현 리벨리온 대표와 김형준 스퀴즈비츠 대표/사진=리벨리온

NPU(신경망처리장치) 팹리스 스타트업 리벨리온과 AI(인공지능)모델 경량화 스타트업 스퀴즈비츠가 SLM(소형언어모델)의 경량화 기술협력을 위한 전략적 파트너십을 체결했다고 29일 밝혔다.

양사는 파트너십을 기반으로 다양한 SLM을 경량화·최적화해 리벨리온의 NPU에서 구동할 때 효율화하는 기술을 개발해 나갈 계획이다. AI모델 경량화는 AI의 성능을 유지하면서도 연산량을 줄여 전력사용 등 비용을 줄여주는 기술이다. NPU 역시 AI 구동 시 전력 비용을 줄여주는 데 특화된 AI반도체로, 양사는 이번 협업으로 시너지를 극대화할 수 있을 것으로 보고있다.

특히 리벨리온은 이번 협업으로 자사 NPU에 최적화된 SLM의 종류를 늘려 고객들의 선택지를 넓혀줄 수 있을 것으로 기대했다. 스퀴즈비츠 역시 다양한 AI반도체에 대응하는 SLM 경량화 기술기반을 확보해 다양한 엔비디아 외 AI반도체를 사용하는 기업고객들을 공략할 수 있을 것으로 봤다.

양사는 이번 파트너십으로 지속가능한 생성AI 서비스 제공 환경을 구축하고 국내 AI 생태계 발전에도 기여한다는 계획이다.

김형준 스퀴즈비츠 대표는 "리벨리온과의 협력을 통해 AI서비스를 개발하는 기업 고객들에게 다양한 하드웨어 옵션을 제공할 수 있게 됐다"며 "다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공해 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것"이라고 말했다.

박성현 리벨리온 대표는 "NPU와 AI경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다"며 "이번 파트너십으로 리벨리온의 NPU 활용의 장점을 극대화하고 고객범위도 넓힐 수 있을 것"이라고 밝혔다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

고석용 기자 gohsyng@mt.co.kr

Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지

이 기사에 대해 어떻게 생각하시나요?