[#Let's 스타트업] AI 속도 높이고 비용 줄이는 솔루션

정호준(jeong.hojun@mk.co.kr) 2024. 3. 7. 17:54
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

"어떤 디바이스에서든 손쉽게 인공지능(AI)을 제공할 수 있도록 돕습니다." AI를 제공하는 기업들의 공통된 고민거리는 비용이다.

AI 모델을 개발하고 학습시키는 데에도 상당한 비용이 들지만 AI 서비스 운영에는 더 많은 돈이 투입돼야 하기 때문이다.

최근 매일경제신문과 만난 김나율 클리카 대표는 "AI 모델 사이즈를 최대 95% 압축시켜 AI 속도는 4~25배 빠르게, AI 운영 비용은 최대 80% 절감할 수 있는 솔루션을 제공한다"고 말했다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

클리카
김나율 대표

"어떤 디바이스에서든 손쉽게 인공지능(AI)을 제공할 수 있도록 돕습니다." AI를 제공하는 기업들의 공통된 고민거리는 비용이다. AI 모델을 개발하고 학습시키는 데에도 상당한 비용이 들지만 AI 서비스 운영에는 더 많은 돈이 투입돼야 하기 때문이다.

최근 매일경제신문과 만난 김나율 클리카 대표는 "AI 모델 사이즈를 최대 95% 압축시켜 AI 속도는 4~25배 빠르게, AI 운영 비용은 최대 80% 절감할 수 있는 솔루션을 제공한다"고 말했다. AI 경량화는 AI 모델 크기를 줄여 효율적으로 구동할 수 있도록 하는 기술이다. 최근 삼성전자의 갤럭시 S24 시리즈에 구현된 일부 기술도 삼성전자의 '가우스 AI'를 압축해 탑재한 AI 경량화의 예시다.

클리카는 2021년 3월 창업한 AI 경량화 기술 스타트업이다. 김 대표가 자율주행 기업 모빌아이 출신 벤 아사프 클리카 공동창업자 겸 최고기술책임자(CTO)와 함께 시작했다.

경량화 기술을 활용하면 제한된 하드웨어 환경에 맞게 AI 모델을 압축해 최적화할 수 있다는 장점이 있다. 김 대표는 "국내 한 통신사의 경우 클리카 솔루션을 사용해 50% 이상의 하드웨어 투자비를 절감했다"고 설명했다.

기업들이 AI 경량화 기술을 사용하는 배경이 단순히 비용 절감만은 아니다. 김 대표는 "AI가 솔루션이 아닌 제품이 되면서, 고객사들은 제품을 많은 사용자에게 더 빠르게 서비스할 수 있는 솔루션을 필요로 한다"고 말했다.

그는 이어 "멀티모달 모델 경량화를 자동화하는 것이 목표"라고 밝혔다.

[정호준 기자]

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

이 기사에 대해 어떻게 생각하시나요?