‘몰라도 아는 척’ AI 버릇 고친다…KAIST, 과신 줄이는 학습법 제시

인공지능이 틀린 답을 내놓고도 확신하는 문제를 줄일 수 있는 새 학습 방법이 제시됐습니다.

한국과학기술원(KAIST)는 뇌인지과학과 백세범 석좌교수 연구팀이 딥러닝 모델의 ‘과도한 확신’이 학습 시작 단계의 무작위 가중치 초기화에서 비롯될 수 있다는 점을 규명했다고 오늘(27일) 밝혔습니다.

무작위 가중치 초기화는 인공지능이 학습을 시작하기 전에 가중치를 확률에 따라 무작위로 설정하는 방식입니다.

연구팀은 실제 데이터를 학습하기 전, 의미 없는 무작위 노이즈로 신경망을 짧게 학습시키는 ‘예열’ 전략을 제안했습니다.

아직 아무것도 배우지 않은 AI가 먼저 ‘나는 아직 아무것도 모른다’는 상태를 익히도록 하는 방식입니다.

예열 과정을 거친 AI 모델은 처음 보는 데이터에 대해 무리하게 답을 내놓기보다 확신도를 낮추는 경향을 보였습니다.

이를 통해 학습한 적 없는 데이터를 구별하는 성능도 개선된 것으로 나타났습니다.

연구팀은 이번 기술이 자율주행과 의료 AI, 생성형 AI처럼 신뢰성이 중요한 분야에서 AI의 과신과 환각 문제를 줄이는 데 활용될 수 있다고 설명했습니다.

이번 연구는 국제 학술지 ‘네이처 머신 인텔리전스(Nature Machine Intelligence)’에 지난 9일 온라인 게재됐습니다.

[사진 출처 : 한국과학기술원 제공]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

전동흔 기자 (east@kbs.co.kr)