"AI 부작용 막는다"…금융당국, 신용평가 AI·챗봇 검증장치 마련

기사내용 요약
'AI 기반 신용평가모형 검증체계' 마련
'금융분야 AI 보안 가이드라인' 마련

[서울=뉴시스] 정옥주 기자 = 최근 인공지능(AI)을 활용한 서비스 확산으로 개인정보 유출 등 다양한 보안 위협이 발생하는 가운데, 금융위원회는 신뢰받는 AI 활용 환경을 구축하기 위해 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다고 17일밝혔다. 이는 지난해 8월 금융권의 AI 활용을 지원하기 위해 발표한 '금융분야 인공지능 활용 활성화 및 신뢰확보 방안'의 후속조치다.

AI 신용평가모형은 전통적인 신용평가모형에 비해 다양한 비금융·비정형 데이터를 평가항목으로 반영할 수 있어 예측력·변별력이 우수하다는 장점이 있는 반면, 복잡한 알고리즘을 사용하기 때문에 평가결과에 대한 직관적인 해석과 설명이 어렵다는 등의 한계가 있다. 또 신뢰성 확보와 소비자 보호를 위해 전통적인 신용평가와 같은 객관적인 검증체계를 마련해야 한다는 지적도 제기돼 왔다.

따라서 금융당국은 'AI 기반 신용평가모형 검증체계'를 통해 신용정보회사(CB)가 AI 특성을 고려해 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정했는지, CB가 개발한 신용평가모형이 통계적으로 유의한지 확인한다. 또 CB가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증한다.

개인신용평가체계 검증위원회는 'AI 기반 신용평가모형 검증체계'를 활용해 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사에 대한 검증을 수행할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.

'금융분야 AI 보안 가이드라인'은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고, AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공하는 것이 골자다.

최근 AI 서비스 활용이 늘어나면서 개인정보 유출, 학습 데이터 조작 등 다양한 보안위협이 발생할 우려도 늘고 있는 실정이다. 실제 지난 2021년 1월 AI 챗봇 '이루다'의 경우 특정 소수자 차별 등으로 출시 1달여 만에 서비스가 일시 중단됐고, 2020년 10월엔 AI 헬스케어 'GPT-3'가 정신과 챗봇으로 출시되기 전 모의 환자에게 자살을 권유한 사례가 일어난 바 있다. 이처럼 보안성을 충분히 확보하지 못한 AI서비스의 경우, 오작동 또는 악의적인 공격에 노출될 가능성이 있다.

따라서 가이드라인은 AI 모델 개발단계별 보안 고려사항과 AI 챗봇 서비스에 대한 보안성 체크리스트를 제시하고 있다.

AI 모델 개발단계별 보안 고려사항은 '학습 데이터 수집→ 학습 데이터 전(前)처리 → AI 모델 설계·학습 → AI 모델 검증·평가' 단계에 따라 구성됐다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대해 대응할 수 있도록 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 제시한다.

금융분야에서 AI가 가장 활발히 사용되는 서비스 중 하나인 챗봇에 대해서는 'AI 챗봇서비스 보안성 체크리스트'를 별도로 마련했다. 보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화해 제공, 현장 실무자가 쉽게 활용할 수 있을 것으로 기대된다.

금융분야 AI 보안 가이드라인은 금융보안 레그테크 포탈에 게시돼 있다. 앞으로 새로 등장하는 보안위협·대응기법 등을 고려해 지속적으로 개선·보완해나갈 계획이다.

금융위는 "AI는 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이며, 금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라며 "앞으로 '금융분야 AI 활용 활성화 및 신뢰확보 방안'의 다른 세부 추진과제에 대해서도 차질없이 추진해 나가겠다"고 말했다.

오는 2분기 중 신용정보원을 중심으로 금융회사· 핀테크 기업·CB사·데이터 전문기업 등으로 구성된 컨소시엄을 통해 금융 AI 데이터 라이브러리를 구축한다. 또 금융보안원을 중심으로 은행·카드업권이 이상금융거래정보 공유 태스크포스(TF)를 구성했고, AI 학습 데이터셋을 구축·공유한다. 아울러 신용정보원·금융결제원·금융보안원이 테스트베드 세부 구축방안을 마련했으며, 데이터셋·컴퓨팅 자원 확보 등을 거쳐 4분기 중 테스트베드를 구축·운영할 예정이다.

☞공감언론 뉴시스 channa224@newsis.com