이재길 카이스트 교수팀, 변화 적응하는 인공지능 훈련 기술 개발

카이스트 연구팀에서 개발한 적응적 프롬프팅 방법론의 동작 개념도. 카이스트 제공

KAIST(카이스트)가 발 빠른 시대 변화에 따른 사용자 맞춤 인공지능(AI) 기술을 개발했다.

5일 카이스트에 따르면 이재길 전산학부 교수 연구팀은 기존 지식을 유지하며 새로운 지식을 축적하는 인공지능 연속 학습을 가능케 하는 AI 기술을 개발했다.

연구팀은 작업 간의 다양한 변화 정도에 적응할 수 있는 '적응적 프롬프팅'(adaptive prompting)에 기반한 연속 학습 기술을 제안했다.

프롬프팅은 거대 언어 모델에서 모델이 응답을 수행하도록 입력을 제공해 출력을 생성시키는 과정을 말한다.

기존 프롬프트 방식은 각 작업에 특화된 지식을 프롬프트에 저장하고, 적절한 프롬프트를 입력 데이터에 추가해 심층신경망에 전달, 과거 지식을 활용했다.

개발 방법론은 여기에 더해 학습하려는 작업이 이전에 학습했던 작업과 유사하면 프롬프트를 생성하지 않고, 할당된 프롬프트에 지식을 축적하도록 했다.

새로운 작업이 입력될 때만 프롬프트를 생성하는 것이다.

그 결과, 작업 간 변화 정도가 큰 환경에서 프롬프트 기반 연속 학습 방법론은 최대 14% 정확도를 향상했다.

작업 간 변화가 크거나 작을 수도 있는 환경에서는 최대 8% 정확도 향상을 달성했다.

이재길 교수는 "연속 학습 분야의 새로운 지평을 열 만한 획기적인 방법"이라며 "실용화 및 기술 이전이 이뤄지면 심층 학습 학계 및 산업계에 큰 파급효과를 낼 수 있을 것"이라고 했다.

#대전