김주현 "금융 AI 신뢰 높이기 위한 테스트베드 구축할 것"

김주현 금융위원장. 금융위 제공

김주현 금융위원장이 금융 분야 인공지능(AI) 신뢰를 높이기 위해 '금융 AI 테스트베드' 구축과 '설명가능한 AI 안내서' 마련 등을 추진하겠다고 밝혔다.

김 위원장은 17일 은행회관 뱅커스클럽에서 열린 '금융 산업의 인공지능 대응전략 세미나'에서 "금융소비자의 편의성을 높이고 금융회사의 주요 핵심업무의 효율성을 제고하는 다양한 영역에 걸쳐 AI 투자·활용이 확대되고 있다"며 이같이 밝혔다.

이어 "AI 오작동이나 집중리스크 등에 대한 대응방안 검토도 필요한 상황"이라면서 "특정 AI 모델을 활용할 경우 디지털 집중 리스크가 확대돼 금융 안정에도 영향을 미칠 수 있다"고 강조했다. 소수의 AI 기술·모델이 시장을 지배하고 이를 기반으로 한 서비스들이 대거 출시될 경우 금융 시스템 내 동질성이 높아져 쏠림 현상이 심화할 수 있다는 것이다. 이에 따라 금융위는 AI 공정성·정확성 제고를 위해 '금융 AI 테스트베드'를 구축하기로 했다. 신용평가 AI, 금융사기 방지 AI, 금융보안 AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원 등을 제공할 예정이다.

AI 모델의 작동원리, AI 의사결정의 근거 등을 금융 소비자들이 이해할 수 있도록 '설명 가능한 AI 안내서'도 마련할 계획이다.

김 위원장은 "AI가 사회적 신뢰를 확보하기 위해서는 공정성과 정확성이 담보돼야 하며 AI가 내린 판단의 근거가 무엇인지 금융소비자가 이해할 수 있어야 한다"고 강조했다.

또한 금융위는 앞서 발표한 '금융 AI 데이터 라이브러리' 구축을 차질 없이 추진하고, 데이터 결합 전문기관 추가지정해 양질의 빅데이터 확보를 지원하기로 했다.

이날 세미나에는 다양한 전문가의 발제·발표도 이어졌다.

서정호 금융연구원 부원장은 "AI가 활성화 되는 시점에 기능별 규제 시스템을 구축할 필요가 있다"며 AI 규제 원칙으로 △원칙 중심 접근 △리스크 기반 접근 △데이터 생태계 강화를 제시했다.

옥일진 우리은행 부행장은 "금융권은 생성형 AI를 활용해 보다 발전된 초개인화 금융서비스를 제공할 수 있지만 금융업의 핵심가치인 신뢰성과 상충되는 딜레마가 있다"고 밝혔다. 이어 "따라서 안전하고 효율적인 금융분야 생성형 AI를 위해서는 양질의 학습 데이터 확보와 안전한 인프라 구축이 필수적"이라며 "정부, 금융회사, 기술기업 사이 긴밀한 협력도 요구된다"고 언급했다.

홍동숙 신용정보원 팀장은 "거시정보 및 개인·기업 대출금액 등 신용정보를 활용해 개인사업자의 부도율을 예측하는 AI 모형을 개발했다"며 "재무정보가 부족한 개인사업자의 리스크관리가 용이해질 것으로 기대된다"고 소개했다.

신장수 금융위 금융데이터정책과장은 "AI 기술 향상, 국제적 논의 동향, 현장 목소리 등에 발맞춰 AI 활용 활성화 기반을 다져나갈 것"이라며 "AI 성능의 핵심은 빅데이터에 있는 만큼 금융분야 데이터 산업 전반의 규제 개선도 추진하겠다"고 말했다.강길홍기자 slize@dt.co.kr