AI 의료·법률 분야 신뢰성 높인다…'시간 환각' 자동 진단 체계 개발

KAIST-마이크로소프트연구소 공동연구

거대언어모델(LLM) 시간 추론 능력 자동 평가·진단 시스템 연구진과 모식도. 왼쪽부터 KAIST 김소연 박사과정, 마이크로소프트연구소 진동 왕·싱 시에 연구원, KAIST 황의종 교수(KAIST 제공) /뉴스1

(대전=뉴스1) 김종서 기자 = 한국과학기술원(KAIST)은 전기및전자공학부 황의종 교수 연구팀이 마이크로소프트연구소와 공동연구를 통해 시간 데이터베이스 기술을 활용해 거대언어모델(LLM)의 시간 추론 능력을 자동으로 평가·진단하는 시스템을 개발했다고 14일 밝혔다.

인공지능이 사용자의 신뢰를 얻기 위해서는 시시각각 변화하는 현실 정보를 정확히 이해하는 능력이 필수적이다. 그러나 기존 평가 방식은 정답 일치 여부만을 확인하거나 복잡한 시간 관계를 충분히 반영하지 못해 실제 환경에서 발생하는 다양한 질문 상황을 제대로 평가하기 어렵다는 한계가 있었다.

연구팀은 이를 해결하기 위해 지난 40여년간 검증돼 온 '시간 데이터베이스' 설계 이론을 인공지능 평가에 최초로 도입했다. 데이터의 시간적 흐름과 관계 구조를 활용해 사람이 평가용 문제를 일일이 작성하지 않아도 데이터베이스만으로 13가지 유형의 복잡한 시간 기반 문제가 자동으로 생성되도록 했다는 점이 핵심이다.

특히 이번 기술은 사람이 문제를 직접 만들던 기존 방식에서 벗어나 데이터를 기반으로 평가 문제가 자동 생성되는 방식으로 작동한다. 데이터베이스를 기준으로 문제 생성부터 정답 도출, 검증까지 전 과정을 자동화해 기존처럼 문제를 일일이 수정할 필요 없이 유지보수 부담을 획기적으로 줄일 수 있다.

현실 정보가 변경될 경우에는 해당 내용을 데이터베이스에 업데이트하면 평가 문제와 정답, 검증 기준이 자동으로 반영된다. 다만 최신 정보의 입력 자체는 외부 데이터나 관리자를 통해 이뤄진다.

연구팀은 답변 과정에서 제시된 날짜나 기간의 논리적 타당성까지 검증하는 지표를 새롭게 도입했다. 이를 통해 겉보기에는 정답처럼 보이지만 시간적 근거가 잘못된 '시간 환각' 현상을 기존 대비 평균 21.7% 더 정확하게 탐지하는 성과를 보였다. 입력 데이터량 역시 기존 대비 평균 51% 줄어드는 효과를 보였다.

황 교수는 "이번 연구는 고전적인 데이터베이스 설계 이론이 최신 인공지능의 신뢰성 문제를 해결하는 데 중요한 역할을 할 수 있음을 보여준 사례"라며 "방대한 전문 데이터를 평가 자원으로 전환함으로써 향후 의료·법률 등 다양한 분야의 인공지능 성능 검증에 실질적인 기반이 될 것으로 기대한다"고 말했다.

이번 연구는 KAIST 김소연 박사과정이 제1 저자로 참여했으며, 마이크로소프트연구소의 진동 왕, 싱 시에 연구원이 공동 저자로 참여했다. 연구 결과는 인공지능 분야 국제 학술대회 'ICLR 2026'에서 발표될 예정이다.

연구는 마이크로소프트연구소, 한국연구재단, 정보통신기획평가원(IITP) 글로벌 AI 프론티어랩 과제 지원을 받아 수행됐다.

jongseo12@news1.kr