[과기원NOW] 포스텍, LLM 불확실성 측정하는 방법론 개발

왼쪽부터 이남훈 포스텍 인공지능대학원 교수, 정진석 통합과정생, 송민경·정현지 석사과정생. 포스텍 제공

■ 포스텍은 이남훈 인공지능대학원 교수 연구팀이 거대언어모델(LLM) 예측에 담긴 불확실성을 원인별로 분리해 측정하는 방법론을 개발했다고 1일 밝혔다. 이 연구는 2~7일 미국 샌디에이고에서 열리는 자연어처리 및 전산언어학 분야 국제학회 ‘ACL 2026’ 구두 발표 논문으로 채택됐다. 인공지능(AI) 모델 내부를 직접 분석하는 연구팀 접근법의 핵심은 '셀프-함수 벡터(Self-Function Vector)'라는 개념이다. 연구팀은 셀프-함수 벡터를 활용해 데이터의 모호함에서 비롯된 불확실성과 모델의 지식 부족에서 발생한 불확실성을 효과적으로 분리·측정했다. 이 과정에서 AI 내부 작동 원리를 분석하는 '기계론적 해석가능성(Mechanistic Interpretability)' 연구와 베이지안 추론 이론을 결합해 새로운 분석 틀을 제시했다. 연구팀의 기술을 객관적으로 검증하는 평가 체계도 개발됐다.

[문세영 기자 moon09@donga.com]