[#Let's 스타트업] AI 속도 높이고 비용 줄이는 솔루션
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"어떤 디바이스에서든 손쉽게 인공지능(AI)을 제공할 수 있도록 돕습니다." AI를 제공하는 기업들의 공통된 고민거리는 비용이다.
AI 모델을 개발하고 학습시키는 데에도 상당한 비용이 들지만 AI 서비스 운영에는 더 많은 돈이 투입돼야 하기 때문이다.
최근 매일경제신문과 만난 김나율 클리카 대표는 "AI 모델 사이즈를 최대 95% 압축시켜 AI 속도는 4~25배 빠르게, AI 운영 비용은 최대 80% 절감할 수 있는 솔루션을 제공한다"고 말했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
"어떤 디바이스에서든 손쉽게 인공지능(AI)을 제공할 수 있도록 돕습니다." AI를 제공하는 기업들의 공통된 고민거리는 비용이다. AI 모델을 개발하고 학습시키는 데에도 상당한 비용이 들지만 AI 서비스 운영에는 더 많은 돈이 투입돼야 하기 때문이다.
최근 매일경제신문과 만난 김나율 클리카 대표는 "AI 모델 사이즈를 최대 95% 압축시켜 AI 속도는 4~25배 빠르게, AI 운영 비용은 최대 80% 절감할 수 있는 솔루션을 제공한다"고 말했다. AI 경량화는 AI 모델 크기를 줄여 효율적으로 구동할 수 있도록 하는 기술이다. 최근 삼성전자의 갤럭시 S24 시리즈에 구현된 일부 기술도 삼성전자의 '가우스 AI'를 압축해 탑재한 AI 경량화의 예시다.
클리카는 2021년 3월 창업한 AI 경량화 기술 스타트업이다. 김 대표가 자율주행 기업 모빌아이 출신 벤 아사프 클리카 공동창업자 겸 최고기술책임자(CTO)와 함께 시작했다.
경량화 기술을 활용하면 제한된 하드웨어 환경에 맞게 AI 모델을 압축해 최적화할 수 있다는 장점이 있다. 김 대표는 "국내 한 통신사의 경우 클리카 솔루션을 사용해 50% 이상의 하드웨어 투자비를 절감했다"고 설명했다.
기업들이 AI 경량화 기술을 사용하는 배경이 단순히 비용 절감만은 아니다. 김 대표는 "AI가 솔루션이 아닌 제품이 되면서, 고객사들은 제품을 많은 사용자에게 더 빠르게 서비스할 수 있는 솔루션을 필요로 한다"고 말했다.
그는 이어 "멀티모달 모델 경량화를 자동화하는 것이 목표"라고 밝혔다.
[정호준 기자]
Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지
- ‘카드 신청 완료’ 문자 보고 눌렀다가…1억3000만원 날렸다 - 매일경제
- [단독] “오타니를 잡아라”…국내 특급호텔 물밑 유치전 후끈 - 매일경제
- “병원에 남아 환자 돌보는 전공의 색출 당한다”…의사 커뮤니티 게시물 논란 - 매일경제
- 한국 걸그룹 없었으면 어쩔뻔 …유명 패션쇼에 등장한 여성들의 정체 - 매일경제
- 동남아 1등 되찾은 삼성전자, 그런데…“기쁘지가 않다” 왜? - 매일경제
- 年이자 30%주는 예금 나왔다는데…국민들 고통받는 ‘이 나라’ - 매일경제
- 이제 하나 밖에 안남았잖아…남미 베네수엘라 ‘발칵’, 무슨일이 - 매일경제
- 편의점서 5천만개 팔린 ‘이것’, 삼각김밥 울렸네…신상 또 나온다는데 - 매일경제
- 10년 모은 피같은 마일리지 살아남을까… 윤대통령 “아시아나, 1마일도 피해 없게” - 매일경제
- 김정은 국위선양 강조…북한여자축구 패배 처벌 우려 [파리올림픽 예선] - MK스포츠