[딥테크팁스②-빅데이터·AI]초거대 생성AI를 가볍고 빠르게 '스퀴즈비츠'

흔히 하이테크 기술을 일컫는 '딥테크(Deep-tech)'는 사회에 큰 파장을 일으킬 수 있지만 수면 깊은 곳에 숨어있어 보이지 않는 기술을 의미한다. 당장 성과를 알 수 없는 초기단계 기술인 만큼 성공 가능성도 낮아 민간보다는 공적 자금의 장기 투자가 적합한 분야로 꼽힌다. 알파고를 만든 딥마인드, 챗GPT로 급부상한 오픈AI도 불가능해 보이는 영역을 뚫고 대표 딥테크 기업으로 성장했다.

중소벤처기업부와 중소기업기술정보진흥원이 딥테크팁스를 도입한 이유다. 딥테크팁스는 민간 벤처캐피털(VC)이 3억원 이상 투자한 딥테크 기업에 최대 3년간 15억원의 연구개발(R&D) 자금과 창업사업화·해외마케팅 자금을 지원한다. 전자신문은 △바이오·헬스 △시스템반도체 △미래모빌리티 △친환경·에너지 △로봇 △빅데이터·인공지능(AI) △사이버보안·네트워크 △우주항공·해양 △차세대원전 △양자기술 등 분야에서 우리 생활을 혁신하기 위한 도전에 나선 딥테크 스타트업을 10회에 걸쳐 조망한다. <편집자 주>

오픈AI가 선보인 생성형 인공지능(AI) 챗GPT를 계기로 초거대 AI 경쟁이 치열해지고 있다. 빅테크 기업이 저마다 독자 플랫폼을 확보하고 나서면서 대규모 컴퓨팅 자원 공급 필요성도 급증했다. 막대한 전기공급량과 서버 증설 비용 등으로 인해 AI를 활용한 서비스 경쟁력 확보도 점차 어려워진다. 이런 문제를 해결하기 위한 수단이 AI 경량화다. 비대해진 AI 모델 자체를 좀 더 가볍게 만들면서도 성능을 높이는 것이 초거대 AI가 직면한 과제다.

지난해 창업한 스퀴즈비츠는 언어·이미지용 거대 생성AI 경량화 기술을 개발하는 회사다. 스마트폰이나 노트북 등 엣지 AI가 아닌 거대 모델 자체를 가볍게 하는데 도전한다. 퀄컴이나 메타, 엔비디아 같은 빅테크 기업 일부만이 시도하는 분야다.

스퀴즈비츠는 지난해 가장 유명한 이미지용 생성 AI 모델인 스테이블디퓨전을 모바일에서 구동하는 데 성공했다. 퀄컴에 이은 두 번째 사례다. 4비트 이하 양자화 등 추가 경량화 기술을 통해 더 빠른 서비스 제공이 목표다. 양자화기술을 활용하면 하나의 데이터를 더 낮은 비트 수로 표현하면서도 AI 모델 정확도를 유지하는 것이 가능하다.

거대 생성 AI 모델 크기를 획기적으로 압축하면서도 추론 속도를 더 빠르게 하는 것이 스퀴즈비츠의 숙제다. 현재 언어용 AI는 최대 2배, 이미지용 AI는 최대 4배 압축이 세계 최고 수준으로 알려졌다. 스퀴즈비츠는 압축률을 각각 4배, 6.6배 이상으로 높이는 것이 목표다. 이후 추론 엔진까지 개발하는 것도 목표다. 저마다 다양한 방식으로 경량화시킨 거대 생성AI를 다양한 하드웨어에 적용할 수 있는 범용성을 갖춘 결과물을 내놓는다는 계획이다.

초거대 생성AI 기반 서비스 운영에 필요한 각종 제반 비용을 절감시켜 보다 다양한 기업이 생성AI를 통한 서비스를 선보일 수 있다는 점이 가장 큰 기대 효과다. AI 구동을 위해 가동되는 고성능 GPU 숫자가 줄어드는 만큼 전력 소모량 역시 줄일 수 있을 것으로 기대된다.

네이버가 전략적투자자(SI)로 나선 이유도 스퀴즈비츠의 AI 경량화가 가져올 각종 경제적 효과를 기대해서다. 스퀴즈비츠는 현재 네이버와 공동연구에 한창이다. 딥테크팁스에도 선정돼 15억원 상당의 연구개발(R&D) 자금을 지원받게 됐다. 딥테크팁스는 중소기업기술정보진흥원 주관으로 팁스 운영사 추천을 거쳐 선발한다.

스퀴즈비츠에 투자한 포항공과대학기술지주는 “최근 AI 모델 성능 및 학습데이터량이 증가하면서 모델 크기가 지속 증가하고 있으며, 모델 학습과 운용에 GPU 수가 급진적으로 증가하고 있다”면서 “해외 스타트업 가운데서도 경량화 솔루션을 개발중인 경쟁사가 존재하지만 경량화 수준이 낮거나 가속하고자 하는 하드웨어 범위가 제한적이서 스퀴즈비츠가 기술 우위를 갖춘 것으로 판단했다”고 밝혔다.

류근일 기자 ryuryu@etnews.com