피플펀드, 업계 최초 ‘설명가능한 AI모델’ 4종 자체 개발

여신심사 분야서 사용될 XAI모델 개발 및 시스템 적용 완료
AI신용평가모형 산출물에 대한 근거·이유 입체적 설명

[이데일리 정두리 기자] 피플펀드가 여신심사 및 평가 분야에서 사용될 ‘설명가능한 AI모델(XAI모델)’ 4종을 자체 개발해 상용화한다고 29일 밝혔다.

이로써 블랙박스 형태로 개발된 피플펀드의 AI신용평가시스템은 객관적이면서 투명한 AI설명 체계를 갖추게 됐다. XAI는 AI의 작동원리 및 의사결정의 근거 등을 사용자가 이해하고 믿을 수 있게 하는 방법론을 말한다. 피플펀드의 XAI모델의 특장점은 AI신용평가시스템의 차입자 평가 근거를 설명해줄 뿐 만 아니라, 사용 중인 신용평가모형이 동일 시점의 시장 상황 변화에 잘 적응하고 있는지, 모형 성능이 유지되고 있는지 판단 및 설명하는 기능까지 포함하고 있다. 이는 피플펀드의 AI신용평가시스템을 도입하려는 금융기관의 니즈에 특화돼 있다.

이번에 개발 및 상용화된 피플펀드의 XAI모델은 총 4가지로, △AI신용평가시스템이 도출한 차입자의 신용평가 결과값에 대해 서로게이트 모형을 이용해 각 변수 항목들이 미치는 긍정 및 부정 요인과 그 영향도를 개별 고객들이 이해할 수 있도록 설명하는 XAI모델 △대출을 신청한 차입자가 수개월 후에 우량해질 가능성을 분석함으로써 잠재 우량도를 설명하는 XAI모델 △대출 신청을 위해 현재 유입되는 잠재 차입자의 데이터가 AI신용평가시스템이 과거 학습한 데이터와 얼마나 유사한지 실시간으로 평가함으로써 모형의 신뢰 수준을 설명해주는 XAI모델 △거시경제 및 금융시장 상황의 변화에 따라 모형의 성능 저하 정도 및 교체 필요성을 평가해주는 XAI모델로 구성돼 있다.

강민승 피플펀드 CTO이자 AI연구소장은 “아직 AI의 투명성, 공정성에 대한 사회적 신뢰가 충분치 않은 상황에서 알고리즘의 판단 결과를 충분히 설명하지 못하면 AI신용평가기술이 지속적으로 확대되기 어렵다고 판단해 XAI모델들을 개발하게 됐다”면서 “피플펀드의 향후 XAI 기술 개발의 키워드는 ‘편향성’으로, AI신용평가시스템에서 새롭게 발견되는 차별, 불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것”이라고 말했다.

한편 피플펀드의 AI신용평가시스템은 지난 6개월 간 국내 다수의 금융기관들을 통해 성능 비교 평가를 거쳤다. 검증 결과, 국내 금융시장의 신용평가 및 여신심사 분야에서 상당히 높은 수준의 성능 지표를 안정적으로 산출함을 입증했다. 현재 여러 금융기관이 피플펀드의 AI신용평가시스템 전체 혹은 일부를 B2B SaaS 솔루션 형태로 도입해 사용하는 것을 검토하고 있다.

정두리 (duri22@edaily.co.kr)