AI스타트업, 경량화로 '승부'…대기업서 잇단 러브콜

‘AI 경량화 기술’ 산업 핵심 동력으로 부상
스타트업에 유리…삼성·LG 등 대기업도 협력

[이데일리 김세연 기자] 인공지능(AI) 경량화가 산업 전반에 AI를 확산하는 핵심 동력으로 부상 중이다. 관련 스타트업들은 대기업을 비롯해 AI 유니콘에서 러브콜을 받으며 즐거운 비명을 지르고 있다.

(사진=게티이미지뱅크)

업계에 따르면 AI 스타트업 노타(486990)는 AI 모델 최적화 기술을 삼성전자(005930)의 최신 애플리케이션 프로세서(AP) 엑시노스 2500에 공급하는 계약을 체결했다고 26일 밝혔다. 노타는 AI 경량화 기술을 무기로 누적 투자 유치액 800억원을 돌파했다. 삼성 뿐만 아니라 LG(003550), 네이버, 카카오(035720) 그룹으로부터 모두 전략적 투자를 유치했다. 2023년에는 엔비디아와 파트너십을 맺기도 했다.

이는 노타가 지난 2018년부터 AI 경량화 사업에 뛰어든 결과다. 노타는 지난 2015년 키보드 오타 감소 AI 솔루션으로 사업을 시작했지만 스마트폰에서 AI 솔루션을 구동하기가 쉽지 않다는 걸 인지하고 사업 방향을 과감히 전환했다.

클리카도 AI 경량화에 경쟁력을 인정받은 스타트업이다. 클리카는 지난해 LG가 추진한 개방형 혁신(오픈 이노베이션) 프로그램 ‘온디바이스 AI 챌린지’에서 거대언어모델(LLM)을 경량화해 온디바이스에서 구현할 수 있는 기술을 선보여 호평받았다. 당시 클리카의 기술은 최종 우수과제로 선정됐고 LG 차세대 노트북에 적용될 예정이다.

또 다른 스타트업 스퀴즈비츠는 AI 유니콘 ‘리벨리온’과 협력하고 있다. 양사는 최근 차세대 신경처리장치(NPU)에 최적화된 생성형 AI 모델 경량화 기술을 공동 개발했다. 복잡하고 무거운 모델을 초소형 디바이스에서도 구동할 수 있도록 만드는 것이 핵심이다.

AI 경량화 사업은 스타트업의 경쟁력이 돋보일 수 있는 분야다. 경량화는 거대언어모델(LLM)처럼 인프라 규모나 자본으로 해결하는 영역이 아니기 때문에 대기업이 지배적인 위치에 있지 않아서다.

산업 전반에서도 AI 경량화 기술을 유망 기술로 보고 주목하고 있다. 정보통신산업진흥원(NIPA)이 지난 8월 AI 특허 관련 메타데이터를 분석한 결과 ‘AI 경량화 및 실시간 추론 최적화 기술’ 특허 출원 수는 125건으로 ‘AI 영상·이미지 인식 및 처리 기술’(188건)에 이어 두 번째로 많았다. NIPA는 보고서에서 “기존의 클라우드 중심 AI 서비스는 대형 모델의 높은 정확도를 제공하지만 네트워크 지연과 대역폭 의존성이 큰 한계였다”라며 “특히 네트워크 연결이 불안정하거나 실시간 처리가 중요한 환경에서 기존 클라우드 중심 접근법을 대체하는 핵심 기술로 자리 잡고 있다”고 설명했다.

김세연 (kite@edaily.co.kr)