“서버 통하지 않고 답 내놓는 AI”…한 번 얻은 지식을 재사용

KAIST, 기기 소형 AI와 서버 대형 AI 연결 기술 개발
누적 지식 재사용 통해 서버 거치지 않고 빠르게 응답
스마트폰, 로봇, 웨어러블 등서 고성능 AI 서비스 구현

연구성과를 AI로 생성한 이미지. KAIST 제공.

스마트폰의 소형 인공지능(AI)이 서버에 축적해 놓은 지식을 재사용해 비슷한 문제를 보다 빠르고 정확하게 제시하는 AI 기술이 개발됐다.

이 기술은 비슷한 문제에 대한 서버 의존도를 낮추고 더 빠르게 판단할 수 있어 로봇과 웨어러블 등 다양한 모바일 AI 서비스 구현에 기여할 것으로 기대된다.

KAIST는 이재길 전산학부 교수 연구팀이 스마트폰 등 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 협업 기술 ‘CURE’(누적 지식 재사용)를 개발했다고 21일 밝혔다.

스마트폰과 같은 기기는 계산 능력과 메모리가 제한돼 가벼운 소형 AI 모델을 주로 사용한다. 소형 AI 모델은 간단한 문제는 빠르게 처리하지만, 복잡하거나 낯선 이미지 구분에는 정확도가 떨어진다.

이를 보완하기 위해 기기의 소형 AI가 처리하기 어려운 문제만 서버의 AI 모델에 맡기는 ‘기기-서버 협업’ 방식이 연구돼 왔다.

하지만 서버가 제공한 지식을 축적하지 않는 방식에서는 유사한 입력이 반복돼도 서버에 다시 요청해야 한다. 이로 인해 통신량과 서버 연산량이 늘어나고 응답 지연도 생긴다.

연구팀은 서버가 알려준 답을 비슷한 문제가 제시될 경우 기기의 소형 AI가 재사용할 수 있는 방식을 적용했다.

CURE는 먼저 기기의 소형 AI가 주어진 문제를 스스로 처리할 수 있는지 판단한다. 이어 해결하기 어려우면 기기에 저장된 서버 지식을 활용하고, 저장된 지식으로 부족하면 서버에 도움을 요청한다.

가령, 소형 AI가 사진 속 특정 차종을 구분하지 못하면 서버의 대형 AI에 답을 요청한다. CURE는 이때 서버의 대형 AI가 제시한 결과와 이미지 특징을 기기 내 저장한다.

이후 비슷한 차종의 이미지가 들어오면 앞서 저장한 지식을 활용해 서버에 다시 묻지 않고 기기에서 직접 판단한다.

연구팀은 비전-언어모델을 이용해 CURE의 성능을 검증한 결과, 서버의 지식을 축적하지 않는 기존 기기-서버 협업 방식보다 서버 호출 횟수를 평균 55.6% 줄였다.

또 처리 속도는 기존 기기-서버 협업 방식보다 최대 2.8배, 모든 입력을 서버로 보내는 방식보다 최대 3.6배 빨랐다.

CURE는 소형 모델과 서버 모델을 별도로 다시 학습시키지 않고 적용할 수 있어 다양한 AI 모델과 서비스에 유연하게 활용할 수 있다고 연구팀은 설명했다.

이재길 교수는 “모바일 사진 인식과 이미지 검색 등에서 반복적인 데이터 전송과 서버 연산을 줄여 이용자의 대기 시간과 서비스 운영 부담을 낮추는 데 기여할 수 있다”며 “스마트폰뿐 아니라 로봇, 웨어러블 등 다양한 기기에서 고성능 AI를 효율적으로 활용하는 기반이 될 것”이라고 말했다.

연구결과는 지난 8일부터 12일까지 스웨덴 말뫼에서 열린 컴퓨터 비전 분야 국제 학술대회 ‘유럽컴퓨터비전학회(ECCV) 2026’에서 발표됐다.

이준기 기자 bongchu@dt.co.kr