‘친구 같은 나만의 AI’ 구현… AI 반도체 ‘소울메이트’ 선봬

유회준 KAIST 교수팀, 개인화 LLLM 가속기 ‘소울메이트’ 개발
사용자 말투·감정까지 학습… 온디바이스서 구현 개인정보 유출 차단
응답과 학습을 0.2초에 수행… 초저전력 구현해 스마트폰 등 AI 에이전트 활용

유회준(왼쪽) KAIST 교수와 홍성연 KAIST 박사과정 연구원. 사진=이준기기자.

"나를 알고, 나를 기억하고, 나에 맞춰 성장하는 '친구 같은 나만의 인공지능(AI)'을 구현하기 위해 칩 개발을 시작했죠."(홍성연 KAIST AI대학원 박사과정생)

"거대언어모델(LLM)을 사용자가 학습시켜 온디바이스 환경에서 개인정보 유출 우려 없이 사용할 수 있게 만든 AI 반도체입니다."(유회준 KAIST AI반도체대학원 교수)

챗GPT, 제미나이, 클로드 등 LLM이 점점 일상 생활 깊숙이 들어오고 있지만, 정작 사용자의 습관이나 이전 대화 맥락 등은 완벽히 파악하지 못해 가끔 엉뚱한 답변을 내놓곤 한다.

이는 LLM이 개별 사용자에 대한 구체적인 정보나 선호도 등을 알지 못하는 한계를 지니고 있기 때문이다.

하지만 앞으로는 사용자 말투와 취향, 감정까지 배우고 닮아가는 이른바 '친구 같은 LLM'이 구현될 전망이다.

유 교수 연구팀은 지난 16일 KAIST 대전 본원 KI빌딩에서 시연회를 열고, 사용자 특성에 맞춰 스스로 진화하는 개인 맞춤형 LLM 가속기 '소울메이트'를 선보였다.

홍성연 박사과정 연구원이 소울메이트 시연을 하고 있다. 사진=이준기기자.

유 교수는 이날 "소울메이트는 LLM을 데이센터가 아닌 사용자가 직접 학습시킬 수 있다는 게 가장 큰 특징"이라며 "온디바이스 환경에서 사용자가 원하는 대로 LLM을 학습시켜 적은 전력으로 짧은 시간에 학습을 마칠 수 있다"고 설명했다.

기존 LLM 시스템은 데이터센터에서 학습된 데이터를 기반으로 추론하며, 대부분의 서비스 연산을 클라우드 서버에 의존한다. 사용자와 상호작용을 통한 추가 학습 과정이 없어 개인화된 LLM 구현이 기술적으로 어렵고, 사적인 정보와 위치 정보 등 민감한 개인 데이터가 서버로 전송되면서 개인정보 유출 우려도 있다.

소울메이트는 사용자 정보와 대화 기록 등 기억된 내용을 바탕으로 맞춤형 답변을 생성하는 '검색증강생성'(RAG) 기술과 사용자 피드백을 즉각 반영해 학습하는 '로우 랭크 미세조정'(LoRA) 기술을 반도체 칩에 구현했다.

문장 내 토큰(단어)별 중요도를 실시간으로 판단해 중요도가 높은 핵심 토큰은 정밀하게 처리하고, 중요하지 않은 토큰은 저차원 연산으로 대체해 0.2초의 빠른 속도로 사용자에게 응답과 학습을 동시에 수행한다.

전력소모도 획기적으로 줄였다. 사용자 피드백을 학습하는 과정에서 중복 연산을 제거해 스마트폰 프로세서 소비전력의 500분의 1 수준인 9.8㎽(밀리와트)의 초저전력으로 복잡한 학습과 추론을 동시에 수행할 수 있다.

특히 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 '온디바이스 AI' 기술을 적용해 개인정보 유출 우려를 근본적으로 차단해다.

유 교수는 "생텍쥐베리의 소설 '어린왕자'에서 사막여우가 어린왕자에게 '나를 깃들이면 친구가 될 수 있다'고 말한 것에 착안해 어떻게 하면 '개인화된 AI'를 만들 수 있을까를 고민하다가 소울메이트 개념을 떠올리게 됐다"고 말했다.

AI 반도체 '소울메이트'를 탑재한 데모 보드 모습. 사진=이준기기자.

이어 "사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자이자 친구로서 발전할 수 있는 기술적 기반을 마련한 게 소울메이트"라며 "미래의 AI는 단순한 도구를 넘어 개인 프라이버시를 완벽히 보호하면서 언제 어디서나 나를 가장 잘 이해하는 '베프'(베스트 프렌드)와 같은 존재가 될 것"이라고 덧붙였다.

홍 연구원은 "소울메이트는 다른 AI 가속기에 비해 25% 향상된 정확성을 보여 웨어러블 기기나 스마트폰 등에 적용해 나만을 위한 'AI 에이전트'로 활용할 수 있을 것"이라며 "앞으로 사용자를 보다 심도 있게 이해하고 초개인화된 AI를 초저전력으로 구현하기 위한 연구를 지속해 나갈 계획"이라고 말했다.

연구팀은 교원 창업기업 온뉴로AI를 통해 소울메이트를 제품화할 예정이다.

연구결과는 지난달 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 '하이라이트 논문'으로 선정됐다.

글·사진=이준기 기자 bongchu@dt.co.kr