카카오, 스마트폰서 구동하는 경량 AI 4종 공개…“한국어 효율 30%” 높여

카카나 모델 설명 화면. 카카오 홈페이지 갈무리

카카오가 스마트폰과 개인용 컴퓨터(PC) 등에서 구동할 수 있는 자체 개발 경량 언어모델(SLM) ‘카나나-2’ 4종을 오픈소스로 공개했다. 대화·통화 요약이나 인공지능(AI) 비서 등 생활 밀착형 서비스 개발에 활용될 전망이다.

카카오는 28일 글로벌 AI 개발 플랫폼 허깅페이스에 13억개와 30억개 매개변수 규모의 기본형·지시형 모델을 각각 공개했다고 밝혔다. 지시형 모델은 이용자의 질문이나 명령을 이해하고 답변하도록 조정된 모델이다.

카카오는 현재 ‘카나나 인 카카오톡’과 카카오톡 대화·통화 요약, AI 국민비서 등에 자체 경량 모델을 활용하고 있다.

카카오는 이번 모델은 지식·수학·코딩·지시 수행 등 주요 평가에서 알리바바 큐웬(Qwen) 등 비슷한 크기의 글로벌 오픈소스 모델과 비교해 경쟁력 있는 성능을 기록했다고 설명했다.

한국어 처리 효율도 개선됐다. 카카오는 자체 개발한 한국어 특화 토크나이저를 적용해 같은 문장을 처리하는 데 필요한 단위를 줄이고, 기존 모델보다 한국어 처리 효율을 30% 이상 높였다. 긴 대화에서 메모리 사용이 급증하는 문제를 줄이기 위해 ‘슬라이딩 윈도우 어텐션’ 구조도 도입했다. 메모리 사용량을 최대 72.7% 절감했다는 게 카카오의 설명이다.

카카오는 개발자와 스타트업·연구기관 등이 별도 비용 부담 없이 모델을 활용할 수 있도록 상업적 이용이 가능한 ‘카나나 오픈 라이선스’를 적용했다고 밝혔다. 향후 경량 AI 모델을 기반으로 스마트폰 등 다양한 기기에서 작동하는 한국어 AI 서비스 개발을 확대할 계획이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다.

김세훈 기자 ksh3712@kyunghyang.com