금융권 AI 보안 가이드라인 나왔다…신뢰 수준 제고

AI 기반 신용평가모형 검증체계 마련

금융위원회가 금융분야 AI 보안 가이드라인과 AI 기반 신용평가모형 검증체계를 마련했다고 17일 밝혔다. /더팩트DB

[더팩트│황원영 기자] 금융당국이 금융권의 인공지능(AI) 보안에 대한 신뢰 수준을 제고하기 위해 AI 기반 신용평가모형 검증체계와 금융분야 AI 보안 가이드라인을 마련했다고 밝혔다.

금융위원회는 지난해 8월 발표한 금융권의 AI 활용 활성화 및 신뢰확보 방안의 후속조치로 '금융분야 AI 보안 가이드라인'과 'AI 기반 신용평가모형 검증체계'를 마련했다고 17일 밝혔다.

금융분야 AI 보안 가이드라인은 AI 모델을 개발할 때 고려할 단계별 보안사항과 AI 챗봇 보안성 체크리스트로 구성돼 있다.

AI 모델 개발 시 고려해야 할 보안사항을 '학습 데이터 수집→학습 데이터 전(前)처리→AI 모델 설계·학습 →AI 모델 검증·평가' 등 개발단계별로 제시한다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대해 대응할 수 있도록 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 제공한다.

또 금융분야에서 AI가 가장 많이 활용되는 챗봇 서비스에 대한 보안성 체크리스트를 별도로 마련했다. 현장에서 쉽게 활용할 수 있도록 보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화했다.

금융분야 AI 보안 가이드라인은 자율보안 평가, 보안정보 제공 등을 위한 '금융보안 레그테크 포탈'에 게시했으며, 향후 새로 등장하는 보안위협이나 대응기법 등을 고려해 지속적으로 개선, 보완할 계획이다.

금융위는 'AI 기반 신용평가모형 검증체계'도 마련했다.

신용평가모형 검증체계는 신용정보회사가 AI 특성을 고려해 데이터를 적절히 관리하는지와 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지 점검한다. 신용평가모형이 통계적으로 유의한 지와, 신용평가회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지도 검증한다.

개인신용평가체계 검증위원회는 이를 활용해 연내 AI 신용평가모형을 활용하고 있는 개인사업자 신용평가회사에 대한 검증을 수행할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.

금융위는 "AI는 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이며, 금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "금융분야 인공지능 활용 활성화 및 신뢰 확보 방안의 다른 세부 추진과제에 대해서도 차질 없이 추진해 나가겠다"고 말했다.

wony@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write