"AI가 내린 신용평가, 이유는"…피플펀드, XAI 신용평가 도입

금융기관이 SaaS(서비스형 소프트웨어) 형태로 사용할 수 있는 'AI(인공지능)신용평가모델'을 개발 중인 피플펀드컴퍼니가 AI신용평가모델에 XAI(설명가능한 AI·eXplainable AI)' 기능을 더한다고 29일 밝혔다. AI가 산출한 신용평가가 어떤 배경에서 결정됐고, 앞으로도 유의미한지 결과를 신뢰할 수 있도록 하기 위해서다.

XAI는 AI의 작동원리와 의사결정의 근거 등을 사용자가 이해할 수 있도록 설명해주는 것을 의미한다. 피플펀드의 XAI모델은 AI신용평가시스템의 차입자 평가 근거를 설명하고 사용 중인 신용평가모형이 시장 흐름을 반영하고 있는지 등을 설명할 수 있도록 개발됐다.

세부적으로 △신용평가 결과값에 영향을 미친 변수들과 영향도 설명 △차후 변동 가능성 설명 △잠재 차입자 데이터와 과거 학습 데이터의 유사도를 통한 신뢰수준 설명 △거시경제 변화에 따른 모형의 성능 설명 등 4가지 요소를 설명해준다고 피플펀드 측은 설명했다.

XAI모델은 제2금융권에서 대출을 거절당한 차입자가 피플펀드의 AI신용평가시스템에서는 승인을 받는 경우 등에 대해 구체적인 이유와 배경을 설명하기 위해 개발됐다.

강민승 피플펀드 CTO이자 AI연구소장은 "알고리즘의 판단 결과를 충분히 설명하지 못하면 AI신용평가기술이 지속적으로 확대되기 어렵다고 판단해 XAI모델들을 개발했다"며 "앞으로의 XAI 개발의 키워드는 '편향성'으로 AI신용평가시스템에서 새롭게 발견되는 차별·불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것"이라고 말했다.

한편 피플펀드는 올해 초부터 국내 다수 금융기관들에 AI신용평가시스템을 제공해 검증을 진행해오고 있다. 피플펀드는 이를 기반으로 AI신용평가시스템 전체 혹은 일부를 B2B SaaS(서비스형 소프트웨어) 형태로 제공하는 방안을 검토하고 있다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

고석용 기자 gohsyng@mt.co.kr