불안한 'AI 은행원'..2분기에 가이드라인 마련(종합)

[서울=뉴시스] 정옥주 기자 = '인공지능(AI)' 은행원이 고객상담 등 단순 업무에서 벗어나 금융상품을 추천 또는 판매할 수 있도록 가이드라인이 올 2분기 중 만들어진다. 금융당국은 AI 은행원의 불완전판매 등 법적 리스크에 대비해 설명의무 준수가 가능한 지 등을 실증적으로 측정하는 'AI 설명 테스트베드' 구축에도 나서기로 했다.

금융위원회는 13일 도규상 부위원장이 주재한 제7차 '디지털금융 협의회'에서 올 2분기 중 금융분야 AI 가이드라인을 준비하고, 연내 금융업권별 실무지침 등도 단계적으로 마련키로 했다고 밝혔다.

현재 금융권 내 AI 활용 증가, 비대면 채널 확대 등 금융산업에 질적 변화가 촉발되고 있지만, 금융투자 분야 등을 제외하고는 AI 활용에 대한 법제상 규율이 명확하지 않은 상황이다.

이에 금융위는금융분야 AI 운영 가이드라인 연구용역(서울대) 결과 등을 바탕으로 ▲AI 활성화를 위한 인프라 구축 ▲공정성·투명성 제고를 통한 신뢰 확보 ▲새로운 금융범죄로부터 소비자 보호 등 3가지 측면에 초점을 두고 정책을 마련하기로 했다.

우선 AI의 불완전판매 등 법적 리스크를 해소하기 위해 설명의무 준수가 가능한 지 등을 실증적으로 측정하는 'AI 설명 테스트베드' 구축을 추진한다.

이날 금융위가 공개한 AI 운영 가이드라인 연구용역 보고서에 따르면챗봇 등 AI가 금융 소비자의 행동을 분석하고 그 이해도를 측정하는 것이 중요하다고 꼽았다.

특히 고객 접점 관련 AI 활용에서 주요한 장애요소가 되는 것은 비대면 금융상품 판매시 설명의무와 관련된 불완전판매 등 법적 리스크로, 이를 해결하기 위해 금융 소비자의 금융 독해력이나 금융상품에 대한 이해 수준을 평가하는 방법이 더욱 고도화될 필요가 있다고 봤다.

금융 독해력 측정이 가능하다면 개인에 맞는 개별화된 설명이 가능해질 수 있고, 이때 실증적 기법을 활용함으로써 고객이 얼마나 금융상품의 리스크를 잘 이해하고 있는지 확인할 수 있다는 것이다.

보고서는 "인간의 개입 없이 AI에 따라 투자판단이 이뤄지거나 금융상품 판매에 AI가 활용되는 경우 금융상품 판매규제의 적용과 그 위반에 따른 책임 문제가 대두될 수 있다"며 "AI가 실질적인 설명의무를 다해 불완전판매를 해소할 수 있을지 여부는 금융소비자의 다양한 금융 독해력과 인간과 AI간 상호작용에 따른 리스크의 실제적 인지 정도에 따라 달리 나타날 것"이라고 설명했다.

따라서 보고서는 금융기관들이 AI 출시 전 이를 실제 시연해 자발적으로 참여한 금융소비자의 리스크 인지도를 측정할 수 있도록 테스트베드를 조성해 제공하고, 감독당국이 이러한 실증적 측정 결과에 따라 금융소비자에 대한 설명의무 이행 여부를 판단해야 한다고 조언했다.

보고서는 또 금융 AI의 공정성과 정확성도 확보해야 한다고 짚었다. AI는 인간보다 빠르게 더 많은 정보를 처리해 의사결정의 효율성을 높일 수 있지만, 의사결정의 편향성 등 공정성 이슈가 제기될 수도 있기 떄문이다.

예컨데 은행이 대출부적격자를 걸러내기 위해 여신심사를 강화할 경우 통계적으로 대출적격자가 여신이 거절되는 사례가 늘어날 수 있다.따라서 금융 AI가 신용평가, 대출심사, 보험심사 등과 같이 금융소비자에 대한 금융 기회를 제공하는 기능을 수행할 때 상대적으로 오류를 최소화하는 것이 중요하다.

공정성 확보와 관련해 금융소외계층에 대한 금융접근성을 제고할 땐 결과적 평등 기준을 적용하고, 대출심사 등을 할 땐 기회의 평등 기준을 적용하는 등 다양한 공정성 기준을 유연하게 적용할 필요가 있다는 설명이다.

이와 함께 금융위는 AI 활성화를 위한 빅데이터 인프라 등 구축에도 나설 예정이다. 금융 챗봇이 적절하게 설명의무를 이행하고 적정한 판매행위를 할 수 있도록 하기 위해서는 금융소비자의 수요와 금융 독해력에 따라 정확한 대화 내용을 출력하는 것이 가능해야 한다. 이를 위해서는 기반이 되는 양질의 훈련 데이터가 필수적이다.

이에 따라 금융위는 AI학습·교육용 합성데이터(실제데이터는 아니나 실제 데이터의 통계적 속성을 갖도록 생성된 인조데이터) 개발, 금융대화형 AI를 위한 금융말뭉치(금융상품·자문·판매에 특화된 전문적 내용이 축적된 대화형태의 데이터) 데이터, 사기탐지시스템 운영에 필요한 데이터 세트를 대폭 확충하기로 했다.

도 부위원장은 "금융권의 AI 활용을 지원하기 위해 필요한빅데이터 인프라를 구축하고 AI 알고리즘의 유효성을 검증할 수 있는 테스트베드도 만들어 나가겠다"고 말했다.

이밖에 AI시스템의 잠재적 위험을 평가·관리할 거버넌스를 구축하고, 운영의 전 과정에서 신뢰성 확보를 위한 적절한 평가조치 등을 시행한다. AI 기술을 활용한 딥페이크 등 새로운 유형의 금융범죄에 대응하고, 소비자 보호를 위한 섭테크(Suptech) 등 AI 감독이슈에도 선제적으로 대비한다.

이와 함께 이날 회의에서는 향후 디지털금융협의회를 기울어진 운동장 논의를 넘어, 디지털 금융 전반 과제를 폭넓게 다루는 회의체로 확대 개편, 상시·주기적으로 운영키로 했다. 다각적 논의를 심도있게 하도록 분과회의를 구성하되, 주제별로 4개 분과로 나눈다. 업권 전반을 아우를 수 있도록 디지털·보안 등 관련 전문가를 확충하되, 분과별 5∼6명으로 구성할 예정이다.

도 부위원장은 "전세계적으로 금융의 디지털화는 거스를 수 없는 변화"라며 "새로운 플레이어들의 금융산업 진입 확대가 금융안정에 미치는 영향에 대해 관리를 강화하고, 새로운 기술이 안전하게 사용될 수 있는기반을 마련하겠다"고 말했다.

☞공감언론 뉴시스 channa224@newsis.com