“말투·감정까지 학습하는 소울메이트” 카이스트 ‘초개인화 AI 반도체’ 개발

유회준 AI반도체대학원 교수(오른쪽)와 홍성연 박사과정 연구원이 ‘소울메이트’ 개발 성과를 설명하고 있다. 카이스트 제공

챗GPT 같은 거대언어모델(LLM)은 다양한 질문에 능숙하게 답하지만 사용자의 사소한 습관이나 이전 대화 맥락 등은 알지 못하는 한계가 있다. 이런 한계를 넘어 사용자의 말투와 취향, 감정까지 실시간으로 학습하며 닮아가는 인공지능(AI) 반도체를 카이스트(KAIST) 연구진이 개발했다.

카이스트는 유회준 AI반도체대학원 교수 연구팀이 사용자 특성에 맞춰 스스로 진화하는 개인 맞춤형 LLM 가속기 ‘소울메이트’를 개발했다고 17일 밝혔다. 소울메이트는 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 ‘온디바이스’ AI 기술이다. 기억된 대화 내용을 바탕으로 맞춤형 답변을 생성하는 ‘검색증강생성(RAG)’ 기술과 사용자 피드백을 즉각 반영해 학습하는 ‘로우 랭크 미세조정(LoRA)’ 기술을 반도체 내부에 직접 구현한 것이다. 연구팀은 이를 기반으로 0.2초의 속도로 사용자의 질문에 응답하며 학습까지 동시에 수행하는 ‘실시간 개인화 AI 시스템’을 만들었다.

소울메이트를 활용하면 단순한 정보 검색을 넘어 사용자 개인의 성향과 과거 대화 문맥, 감정 상태까지 이해하고 반응하는 ‘초개인화된 AI’ 서비스가 가능하다는 게 연구팀 설명이다. 유 교수는 “이번 연구는 사람들이 서로 우정을 쌓아가는 과정을 모방해 AI가 사용자의 진정한 동반자로 발전할 수 있는 기술적 기반을 마련한 것”이라고 말했다.

홍성연 AI반도체대학원 박사과정 연구원이 제1저자로 참여한 이번 연구 결과는 지난달 미국 샌프란시스코에서 열린 국제고체회로설계학회(ISSCC)에서 ‘하이라이트 논문’으로 선정됐다.

이종섭 기자 nomad@kyunghyang.com