인스웨이브 "손바닥 위 AI비서가 기술지원"

인스웨이브시스템즈가 모바일 기기에 탑재해서 쓰는 온디바이스 생성형 AI(인공지능) 모바일앱 'W-토크'를 출시했다.

온디바이스 AI는 서버를 거치지 않고 스마트폰, PC 등 단말기에서 LLM(대형언어모델)을 실행하는 방식을 말한다. 멀리 떨어진 서버를 활용하지 않는 만큼 개인 스마트폰에서 맞춤형 기능을 활용할 수 있는 게 특징이다. 또한 단말기 내부에서 정보를 처리하기 때문에 저지연을 통한 빠른 작업이 가능하다. 중앙 서버를 통하지 않기 때문에 클라우드 기반 AI의 문제점으로 지적됐던 보안 문제도 해결할 수 있다.

W-토크 앱은 웹스퀘어에 대한 전문가 수준의 답변, 관련 코드 예제 생성 기능과 함께 저성능 기기를 위한 서버 기반 LLM 챗봇 서비스도 제공한다. 인스웨이브 제품군 문의에 대한 답변을 고품질의 자연스러운 대화 형태로 지원한다. 특히 사용자가 질문한 맥락을 정확하게 파악해 필요한 정보를 개발 가이드, API(응용프로그램 인터페이스), 예제, 지식DB 등의 자료 기반으로 답변한다. 기존 단순검색 방식과 달리 맥락 파악과 문의와 답변 형태의 정보 전달로 보다 쉽고 효율적인 검색을 돕는다. W-토크 앱 개발에 활용된 LLM, 유사도 검색, 임베딩 기술은 'W-매트릭스 포 모바일' 플랫폼에 통합돼 자체 온디바이스 LLM 애플리케이션을 개발하고자 하는 기업들에 공급될 예정이다.

인스웨이브 관계자는 "W-토크 앱 출시를 통해 개발자들이 자사 솔루션에 대해 필요한 정보를 더욱 빠르고 정확하게 얻도록 지원하고자 했다"면서 "제품 판매뿐 아니라 사용자 서비스 품질 향상을 위한 다양한 기술지원 콘텐츠 제공에도 집중할 것"이라고 밝혔다.

팽동현기자 dhp@dt.co.kr