AI 활용 대출심사 느는데…금융권, ‘고영향 인공지능’ 기준 완화 요구

게티이미지뱅크

은행·카드 등 금융회사에서 대출심사 업무 및 리스크 관리 등에 인공지능(AI) 활용이 늘고 있는 가운데 규제·감독 대상인 이른바 ‘고영향 인공지능’ 판단 문제가 금융권 이슈로 떠오르고 있다. 내년부터 시행되는 인공지능기본법에 따라 기본권 등에 큰 영향을 끼치는 ‘고영향 인공지능’을 활용하는 사업자에게는 위험관리방안 수립 등 여러 책임이 부과되는데, 금융권에서는 자칫 이 규제가 인공지능 도입·활용에 장애가 될 수 있다며 수정·보완을 요구하는 방안을 논의하고 있다.

19일 한국금융연구원 등에 따르면, 은행·증권·카드사 등 전체 금융권 118개사가 인공지능을 업무에 활용하고 있다. 전체 활용 서비스를 영역별로 보면, 인사 및 아이티(IT·보안 등) 업무효율화가 34.8%, 챗봇 등 고객 응대가 19.9%, 투자·자문 등 상품·서비스분야가 17.5%, 리스크 관리 및 사기탐지시스템 영역이 14.1%를 차지한다. 인공지능을 활용해 제공하고 있는 서비스 종류는 은행이 평균 15개, 카드사 8.3개, 증권사 3.9개, 보험사 2.7개 등이다.

금융권은 인공지능 활용과 관련해 △최종 의사결정 및 관련 책임은 임직원이 수행하고 △인공지능 개발에서 신뢰할 수 있는 데이터와 모델을 사용하고 △인공지능 활용 전 과정에서 금융 안정성 위험을 최소화하며 △인공지능 활용시 금융소비자 이익을 최우선으로 고려한다는 내용을 원칙으로 제시하고 있다.

이런 가운데 내년 1월 인공지능기본법 시행을 앞두고 과학기술정보통신부 지난 9월 관련 시행령과 가이드라인 초안을 제시했다. 현재 산업계·학계·시민단체 및 관계부처를 대상으로 의견 수렴중인데, 연말까지 시행령 및 가이드라인 확정본이 수립될 예정이다. 인공지능기본법은 권리·의무 관계에 영향을 미칠 수 있는 고위험 사례를 ‘고영향 인공지능’으로 분류해 사업자에게 영향평가(위험관리방안 수립) 등 여러 책무를 부과한다.

금융분야의 경우 대출심사 업무과정에서 어느 정도의 인공지능 활용 및 최종 결정 방식이 과연 ‘고영향 인공지능’에 해당할 것인지가 관건이다. 가이드라인 초안에 따르면, 대출심사 과정에서 인공지능 시스템이 최종 결정에 ‘상당한 영향’을 미치거나 최종 결정을 하면 고영향에 해당한다. 백연주 금융연구원 연구위원은 최근 발표한 ‘인공지능기본법 하위법령(안)의 금융분야 시사점과 개선방향’ 글에서 “‘상당한 영향’의 정의가 모호하다. 인공지능 시스템을 활용한 프로파일링 결과를 은행원이 단순 참고만 하더라도 의사결정에 간접적으로 영향을 미칠 수 있어 이를 상당한 영향으로 볼 여지가 있다”며 “해당되는 신용공여의 범위도 광범위해 신용대출, 담보대출, 카드론 같은 직접대출뿐만 아니라 지급보증, 신용보증, 자동차 할부금융까지 모두 고영향에 포함되는 것으로 보인다”고 말했다.

백 연구위원은 “과기부가 재량적으로 ‘고영향’ 여부를 판단할 여지가 커서 금융회사들의 수많은 인공지능 활용 영역이 고영향 규제 대상에 포함될 수 있다”며 “이럴 경우 고위험 지정이 금융산업의 인공지능 기술 도입과 인공지능 기반 금융혁신을 저해할 가능성이 크다”고 평가했다.

고영향에 해당되는지 여부를 둘러싸고 금융당국의 신용평가 관련 기존 업무방향과 인공지능기본법 주무부처인 과기부의 고영향 판단이 상충 가능성도 있다는 지적도 나온다. 유럽연합이 세계 최초로 제정한 인공지능법(EU AI Act)은 지난해 8월 발효(전면 시행은 내년 8월)됐는데, 이 법을 둘러싸고도 ’고위험’ 지정이 산업혁신을 저해할 가능성이 있으며도 지정 기준도 모호하다는 비판이 제기된 바 있다. 하지만 유럽연합의 이 법은 금융분야 인공지능 사업자에 대한 감독방향의 경우 기존의 금융감독 규제와 틀을 따르도록 하고 있다. 하지만 우리나라 인공지능기본법은 고영향 지정과 사업자 책무를 과기부가 감독하도록 돼 있다. 연말까지 시행령과 가이드라인을 수정·보완하는 과정에서 금융분야의 인공지능 활용 감독을 기존 금융감독체계와 어떻게 조화시킬 것인지가 관건인 셈이다. 은행연합회 쪽은 “현재 회원 은행들을 대상으로 가이드라인 보완 방향에 대해 의견수렴을 하고 있는 중이다. 은행권의 통일된 의견이 아직 구체화되지는 않은 상황”이라고 말했다.

조계완 선임기자 kyewan@hani.co.kr