금융위, AI 기반 신용평가모형 검증체계·보안 가이드라인 마련

새로운 보안 위협·대응체계 등 지속적 보완 예정

(시사저널=이주희 디지털팀 기자)

금융위원회는 금융 분야의 AI 활용 환경 구축을 위해 '금융 분야 AI 보안 가이드라인'과 'AI 기반 신용평가모형 검증 체계'를 마련했다고 17일 밝혔다. ⓒ연합뉴스

금융 분야에서의 인공지능(AI) 활성화와 신뢰 확보를 위해 금융당국이 AI 보안 지침을 마련했다.

17일 금융위원회에 따르면, 금융 분야의 AI 활용 환경 구축을 위한 '금융 분야 AI 보안 가이드라인'과 'AI 기반 신용평가모형 검증 체계'가 마련됐다. 최근 신용정보회사(CB)들이 AI를 활용한 신용평가를 확대하고 있는 만큼 AI 기반 신용평가의 투명성과 공정성을 확보하겠다는 취지다.

'AI 기반 신용평가모형 검증체계'는 신용정보회사가 데이터를 적절히 관리하는지와 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지를 점검한다. 개인 신용평가체계 검증위원회는 이 검증체계를 활용해 연내 AI 신용평가모형을 활용하는 개인사업자 신용평가회사에 대한 검증을 수행할 예정이다.

'금융 분야 AI 보안 가이드라인'은 AI 모델을 개발해야 할 때 고려해야 할 보안 사항을 개발 단계별로 제시한다. 아울러 AI 챗봇 서비스에 대한 보안성 체크 리스트도 추가로 제공한다. 이 가이드라인은 AI 학습 데이터의 오염, 개인 정보 유출, AI 모델에 대한 공격 등 보안 위협에 대응할 수 있는 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 포함한다.

금융 분야에서 AI가 가장 활발히 사용되는 챗봇과 관련해서는 'AI 챗봇 보안성 체크리스트'를 별도로 마련해 보안성 확보에 필요한 사항을 구체화했다. 이 체크리스트는 '금융보안 레그테크 포탈'에 게시되며 새로 등장하는 보안 위협, 대응 기법 등을 고려해 지속해서 보완해나갈 방침이다.