“IT사고·AI편향 책임 명확히”…금감원, ‘디지털 리스크’ 경고

[연합뉴스]

디지털·인공지능(AI) 전환기를 맞아 금융감독원이 금융권에 강력한 ‘소비자 보호’ 주의보를 내렸다. 기술 혁신이라는 명목 아래 IT 사고의 책임 소재가 불분명해지거나 AI 알고리즘이 소비자의 선택권을 제한하는 등 ‘디지털 성장통’을 방치해서는 안 된다고 경고했다.

21일 금융감독원은 이종오 디지털·IT 부문 부원장보 주재로 전 금융권 주요 협회 및 금융회사 소비자 보호 담당 임원(CCO)들을 소집해 간담회를 개최하고 이 같은 내용을 주문했다.

이 부원장보는 “디지털과 AI 혁신이 금융권에 새로운 도약을 가져왔지만 전에 없던 새로운 불편 요인들이 성장통으로 등장하고 있다”며 “금융 혁신이 진정한 소비자 중심의 디지털 경영으로 뿌리내릴 수 있도록 CCO들이 적극적인 조정자 역할을 수행해야 한다”고 강조했다.

금감원이 가장 우려하는 대목은 오픈 응용프로그램 인터페이스(API)와 클라우드 등 외부 인프라 활용이 전면적으로 확대되면서 파생되는 신종 IT 리스크다. 금융사의 업무가 외부 IT 기술과 복잡하게 얽히면서 시스템 장애 발생 시 책임 소재를 미루거나 결국 소비자 피해로 직결되는 사례가 늘고 있기 때문이다.

AI 모델의 맹점도 지적했다. AI 학습 데이터의 편향성으로 인해 대출이나 금융상품 심사에서 특정 계층이 부당하게 차별받거나 알고리즘 추천 및 챗봇 상담이 오히려 소비자의 합리적인 혜택 비교와 선택권을 제한하는 ‘다크패턴’도 우려했다. 고령층과 장애인 등 디지털 소외계층이 비대면 거래에서 밀려나고 보이스피싱의 표적이 되는 문제도 시급한 해결 과제로 지목됐다.

이에 금감원은 CCO들을 주축으로 즉각적인 내부 통제망 정비와 대응책 마련을 주문했다. IT 사고 시 선제적 보상 체계를 구축하고 외부 제휴·위탁 책임 규명을 명확화하도록 주문했다. AI 알고리즘 위험 통제 및 취소권 보장도 강조했다.

간담회에 참석한 금융업계 CCO 및 관계자들은 그동안 IT 사고 수습이나 디지털화 과정에서 소비자 보호에 일부 미흡했던 점을 인정하며 “향후 관련 부서와의 긴밀한 협업을 통해 소비자 권익 침해 요인을 발굴하고 선제적으로 개선해 나가겠다”고 입을 모았다.

주형연 기자 jhy@dt.co.kr