금융당국, 'AI 신용평가' 검증으로 신뢰 높인다

금융위원회

신용을 평가하는 AI(인공지능) 모형을 믿을 수 있도록 검증하는 시스템이 마련된다.

금융위원회는 금융권의 AI 활용을 지원하기 위해 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 만들었다고 17일 밝혔다.

'AI 기반 신용평가모형 검증체계'는 AI 특성을 고려해 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지 점검한다. 또 신용정보회사가 개발한 신용평가모형이 통계적으로 의미가 있는지 확인한다.

이와 함께 신용정보회사가 금융소비자에게 신용평가모형과 신용평가 결과를 충분히 설명할 수 있는지 검증한다. 개인신용평가체계 검증위원회는 AI 검증체계를 활용해 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사를 검증할 예정이다.

'금융분야 AI 보안 가이드라인'은 AI 모델을 개발할 때 고려해야 할 보안사항을 '학습 데이터 수집→ 학습 데이터 전(前)처리→AI 모델 설계·학습→AI 모델 검증·평가' 단계로 제시한다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대응할 수 있도록 구성됐다.

금융분야에서 AI가 가장 활발히 사용되는 서비스 중 하나인 챗봇 관련해서는 'AI 챗봇서비스 보안성 체크리스트'가 별도 마련됐다. 보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화해 현장 실무자가 쉽게 활용할 수 있을 것으로 기대된다.

금융당국 관계자는 "금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "앞으로 AI 활성화를 위한 다른 세부 추진과제도 차질없이 추진하겠다"고 밝혔다.

김남이 기자 kimnami@mt.co.kr