'엇 AI가 제 멋대로?'…KB국민은행, '소비자 우선하는 AI'로

연중기획 [AX 인사이트 2.0]
금융권 경쟁적 생성형 AI 도입…윤리 문제까지
국민은행, AI 거버넌스 수립·AI 윤리위원회 설치
금융당국도 AI 활용 단계별 원칙 안내서 제작

챗GPT에 이어 딥시크 쇼크까지 전 세계 인공지능(AI) 전쟁이 더욱 가열되고 있다. 기업들의 운명의 시계도 한층 더 빨라졌다. 올해도 숨 쉴 틈 없이 진화하는 AI 기술에 발맞춰 기업들의 두뇌 싸움은 한층 더 치열하게 전개될 전망이다. 비즈워치는 2025년 연중기획 'AI전환(AX) 인사이트 2.0'을 통해 국내외 AX 현황을 깊게 들여다보고 해법을 고민해 본다. [편집자]

#대기업에 다니는 A씨는 소득이 분명하고 신용점수가 만점에 가까운 데도 신용대출을 거절당한다. A씨의 인터넷 사용 기록 등을 조회한 AI가 '부적격' 판단을 내렸기 때문이다. A씨는 은행 창구를 찾아 항의했지만 직원들도 A씨의 대출이 왜 거절당했는지 마땅한 이유를 찾기가 어렵다.

A씨의 사례는 캐나다금융감독원(OSFI)이 'AI 사용 및 위험' 보고서에서 지적한 AI의 비윤리적 행위 가능성 중 하나다. 통상 금융회사에서는 알 수 없는 고객의 개인정보를 AI가 스스로 수집하고 대출 심사에 이용한 것이다. 알고리즘이 복잡해지면서 오류에 빠진 지점을 사람이 찾기 어려운 점도 문제다.

이처럼 금융권 내 AI 도입이 우리보다 빠른 외국에선 AI 윤리 문제가 속속 드러나고 있다. 한국금융소비자보호재단은 최근 '금융 분야의 AI 활용 및 정책 방향' 보고서를 통해 미국 금융권에서도 △AI 모델의 정확성과 신뢰성 문제 △개인정보 침해 및 보안 위협 △투명성 부족 등의 문제가 발생하고 있다고 지적했다.

금융권에서 경쟁적으로 생성형 AI를 도입하면서 안전하고 믿을 수 있는 기술이 핵심으로 떠올랐다. AI 모델이 고도화될수록 책임소재가 불분명해지고 문제가 시작된 지점을 찾기 어려울 수 있다는 지적이 나온다. 소비자를 보호하는 'AI 윤리'가 중요해진 이유다.

'위험한 AI 서비스는 안 합니다'

KB국민은행은 지난 2022년부터 준비한 AI 거버넌스를 최근 발표했다. △AI 윤리기준 및 조직문화 △위험평가 프레임워크 △생애주기별 위험관리정책 △금융소비자 보호 등 4가지의 핵심요소로 구성했다. AI 기술을 활용하는 모든 과정에서 신뢰성과 투명성을 확보하겠다는 목표다.

위험평가 프레임워크는 AI 서비스가 가진 잠재 위험을 사전에 식별하고 관리하는 체계다. 위험 요소에 따라 허용불가·고위험·중위험·저위험으로 등급을 분류하고, 위험성이 클수록 강화된 관리방안을 적용한다.

고위험 서비스를 승인하는 건 AI 거버넌스 최고의사결정 기구인 'AI 윤리위원회'다. 위원장은 AI·DT추진그룹대표인 조영서 부행장이 맡았으며 총 5명의 임원이 참여한다.

국민은행은 거버넌스에 따라 소비자에게 AI 활용 사실을 고지하고, 거부 권리를 보장한다. 고객 대상 AI 서비스에는 설명 의무를 부과하며 민원이 발생했을 경우 피해구제 절차를 마련해야 한다. 이번 주 중 전 직원에 해당 내용을 공지하고, 홈페이지에도 게시할 예정이다.

KB국민은행 관계자는 "AI 윤리 교육 프로그램을 통해 직원들이 자율적으로 학습할 수 있도록 준비 중"이라며 "내년 AI 기본법이 시행되면 전 직원에게 AI 윤리 서약을 받는 등 강도를 높일 계획"이라고 말했다.

금융권 AI 플랫폼 예시 / 자료=금융위원회

속도내는 금융권에 발 맞추는 당국

금융당국도 윤리적인 AI 사용을 위한 가이드라인을 개선 중이다. 당국은 지난 2021년 처음으로 가이드라인을 내놓은 뒤 2023년 한 차례 개정한 바 있다. 올 상반기에는 AI 개발·활용 단계별 원칙을 제시하고, 이에 대한 안내서를 제작할 예정이다.

당국의 원칙에는 최고경영자(CEO) 등 경영진의 역할과 책임이 담길 전망이다. 최종 의사결정과 그에 따른 책임을 임직원이 수행해야 한다는 것이다. 아울러 개발 단계에서 금융 안정성 위험을 최소화하고, AI 활용 시 금융소비자의 이익을 최우선으로 해야 한다.

안내서에는 △금융 AI 원칙 적용 △생성형 AI 관련 보안 위협 △보안성 검증 기준 등을 담는다. AI 원칙에 대한 상세 설명과 사례를 제시할 계획이다.

금융위원회 관계자는 "AI 활용에 대한 명확한 거버넌스를 요청한 금융사가 많다"며 "AI 활용 방안이 폭넓어짐에 따라 어떤 방식으로 어디까지 이용할 수 있는지 불확실성을 줄이고자 노력 중"이라고 말했다.

이하은 (haeun@bizwatch.co.kr)

ⓒ비즈니스워치의 소중한 저작물입니다. 무단전재와 재배포를 금합니다.