[기고] 새 금융혁신 시작은 신뢰성 있는 AI로부터

1994년 빌 게이츠는 "앞으로 금융 서비스(banking)는 필요하지만, 은행(bank)은 필요하지 않을 것"이라고 말했다. 인터넷이라는 디지털 기술을 토대로 한 비대면 금융혁신을 예견한 것이다.

그로부터 30여 년 후인 지금, 인공지능(AI)이 새로운 금융혁신을 불러올 기술로 업계의 이목을 모으는 중이다. 최근 AI 윤리·신뢰성 이행 현황을 점검하고, 현장 목소리도 듣고자 방문한 국민은행에서 이러한 혁신의 현황을 들여다볼 수 있었다.

그간 은행을 통한 금융거래가 불법행위에 이용되지 않도록 하는 고객확인제도(CDD) 점검 시 신분증 누락이나 오류 여부를 직원이 확인해야 해 오랜 시간이 걸렸으나, 국민은행은 AI 기반의 광학식 문자 판독 기술(OCR)을 도입한 후 소요 시간을 크게 단축하였다고 한다. 그 외에도 주식 거래 시 알고리즘 기반으로 실시간 시장 데이터 패턴을 분석해 빠르고 정확하게 거래를 체결할 수 있는가 하면, 앞으로는 대규모 언어모델(LLM)을 활용해 자문 서비스까지 제공할 전망이라고 한다.

단, 이러한 변화에 앞서 고민해야 하는 문제가 있다. 금융 분야의 데이터 오류나 AI의 잘못된 판단은 국민의 재산과 신용에 큰 영향을 미친다는 점이다. 따라서 금융산업에 AI를 도입하기에 앞서 AI에 대한 신뢰성을 확보해야 한다.

금융 분야에서는 특히 다음과 같은 세 가지를 꼽을 수 있다. 첫째는 투명성이다. AI에 의한 결정을 고객이 받아들일 수 있도록 모든 사항이 투명하게 공개되어야 한다. AI의 평가를 통해 고객의 신용등급이 하락하였다면, 고객이 납득할 수 있도록 근거와 결정 과정 등에 대해 설명이 필요할 것이다.

둘째로 다양성 존중(편향과 차별 최소화)이다. AI 기반 서비스를 제공하는 과정에서 특정 그룹에 대한 차별이나 편향성이 나타나서는 안 된다. 특히 금융상품을 추천할 때 고객의 성별이나 거주 지역 등에 따른 편향적 판단이 발생하지 않게 유의해야 할 것이다.

끝으로 안전성이다. AI의 판단이 사람에게 위험을 줄 가능성이 제거돼야 한다. 고객정보의 활용과 폐기 등 전 과정에서 사고를 예방하고, 사고 시 추가적 피해를 막기 위해 시스템을 구축해야 한다.

현재 국내 금융기관들은 AI 신뢰성 확보를 위해 다양한 방면에서 노력 중이다. 국민·농협·기업은행 등을 필두로 AI의 부작용을 방지하기 위한 컨설팅 추진, 자체적인 AI 윤리 기준과 업무 지침 수립 등 종합적 AI 거버넌스 구축을 위한 행보를 보이고 있다.

정부도 민간의 움직임에 대응하여 인공지능 신뢰성 확보 기반을 조성해 나갈 계획이다.

이를 위해 지난 20년 수립한 인공지능 윤리 기준이 현장에서 효과적으로 적용될 수 있도록 의료, 금융 등 분야별 특수성이 반영된 지침을 마련하고, 사업자가 기술 개발 및 서비스 운영 시 사항들에 대한 교육도 병행할 것이다. 아울러 AI 제품·서비스의 신뢰성 준수 여부를 평가하는 검·인증체계를 마련하는 등 민간의 신뢰성 확보 방안을 세밀히 지원할 것이다.

금융은 본질적으로 신뢰성 확보가 필수인 분야이다. 인공지능 도입의 성패 역시 신뢰성 확보 여부에 따라 결정될 것이다. 신뢰성 있는 AI로 새로운 금융혁신의 시대가 열리기를 기대한다.

[박윤규 과학기술정보통신부 제2차관]