코난테크, 갤S24 기반 `온디바이스AI` 데모영상 공개

코난테크놀로지는 자사 유튜브채널에 '코난 온디바이스'라는 제목의 데모영상을 지난 14일 공개, 스마트폰용 온디바이스AI 기술력을 소개했다고 밝혔다.

'코난 온디바이스' 데모는 삼성전자 갤럭시S24 울트라 모델로 실시했다. 마이크 버튼을 탭해 한국어로 말하면 자동으로 음성인식(STT)과 실시간 번역이 이뤄지고 음성합성(TTS)을 통해 상대방에게 영어 음성으로 내용을 전달한다. 사용자 언어와 상대방 언어 번역 결과도 스마트폰 화면의 대화창에 표시된다. 한국어와 영어 외에도 향후 업데이트를 통해 지원 언어를 추가할 계획이다.

음성인식은 기존 챗GPT에서도 가능했지만 이에 더해 음성합성 기능이 추가됐고, 네트워크 연결 없이 디바이스 자체에서 사람의 말을 인식하고 상대방 언어로 번역해 말해주는 과정이 한번에 AI로 처리된다는 게 회사의 설명이다. 저가의 퀄컴 ARM 계열 프로세서도 동작 가능하므로 각종 엣지 디바이스에서 효율적으로 이용할 수 있다. 실시간 번역에는 온디바이스AI에 최적화된 '코난 LLM-4B' 모델이 새로 개발·적용됐다.

코난테크놀로지는 고속 실시간 처리에 특화된 구조의 신경망 설계로 인식결과가 응답지연 없이 즉시 출력(STT) 및 즉시 합성(TTS)된다는 점을 자사 음성기술의 핵심경쟁력으로 내세웠다. 제공형태는 안드로이드 및 리눅스 버전이다. 회사는 자체개발 AI프레임워크 '코난 디트레인'을 이용해 더 적은 메모리로도 계산량을 늘릴 수 있는 엣지 모델 또한 지속적으로 개발한다는 계획이다.

김영섬 코난테크놀로지 대표는 "그동안 축적해온 생성형AI 기술 역량을 결집시켜 각 HW에 최적화된 온디바이스AI 기술을 구현하고, 다양한 수요처들과 비즈니스 기회를 만들고 매출로 연결시키겠다"고 말했다.팽동현기자 dhp@dt.co.kr