리스크 커지는 데…금융사 85% AI 위험관리 미흡 "금감원 손본다"

금감원, 금융분야 AI 위험관리 프레임워크 도입
CEO 정기보고 의무화…세부 매뉴얼·지침 수립

그동안 금융사 85%가 인공지능(AI) 관련 리스크를 충분히 관리하지 못하고 있는 것으로 나타났다. AI 기술은 내부통제와 외부감사의 효율성을 획기적으로 향상할 기회를 제공하지만, 동시에 범죄의 도구로 악용될 수 있는 양날의 검을 갖고 있다. 이에 금융감독원은 금융사들이 AI를 보다 건전하고 책임감 있게 도입·운영할 수 있도록 AI 가이드라인·지침을 새롭게 마련하기로 했다. 급증하는 AI기술 활용 속에 드러난 규제 공백을 채우기 위한 실질적인 대응으로 풀이된다.

금감원은 금융회사들이 건전하게 AI를 활용할 수 있도록 '거버넌스 원칙'을 구체화한 금융 분야 'AI 위험관리 프레임워크(AI RMF)'를 마련한다고 15일 밝혔다.

현재 AI 위험이 산업·사회 전반과 금융소비자에게 큰 영향을 미칠 수 있는 데다, AI 오류가 금융안정을 훼손할 수 있는 우려가 늘고 있지만 금융사의 AI 거버넌스와 위험관리는 미진한 상황이다.

금감원이 지난해 4월 금융사 118곳을 전수조사한 결과 은행 5곳(25%), 보험사 4곳(7.5%), 증권사 1곳(2.7%)만 의사결정기구를 설치했다. 약 85%의 금융회사는 AI 윤리 원칙, 위험관리 기준 등을 마련하지 않았다.

이에 금감원은 금융권이 '혁신과 책임'의 균형 하에 건전하게 AI를 활용할 수 있도록 가이드라인 형태의 자발적 지침을 마련했다. 금융회사는 AI 위험관리 등을 위한 의사결정기구와 전담 조직을 구성하는 등 거버넌스 체계를 구축해야 한다.

의사결정기구의 위원장은 최고경영자(CEO)가 AI와 관련된 사업계획, 전략, 위험 등을 명확히 인식할 수 있도록 CEO에게 정기적으로 보고해야 한다. 위험관리 규정 및 지침 등 AI 관련 내규를 수립하고 세부적인 업무 매뉴얼도 마련해야 한다.

이외에도 금융 및 AI 관련 법규 준수 의무를 부과하고 최종 의사 결정 책임을 임직원이 지도록 한다. 표준화된 매뉴얼을 통해 AI 도입부터 활용까지 전 프로세스를 관리하고 부서 간 역할과 책임도 명확히 하도록 한다.

금융사는 위험을 체계적으로 관리하기 위해서 '위험 기반 접근방법'의 종합 평가체계를 구성해야 한다. 금융 AI 7대 원칙 중 정량적 요소를 토대로 위험평가 체계를 설계하고, 원칙 준수를 위한 기본요소를 평가 항목 등에 반영해 AI 서비스별 위험을 분류해야 한다.

다만 AI기본법상 대출 심사 등 개인의 의무·권리에 영향을 미치는 고영향 AI는 등급과 관계없이 고위험 서비스로 분류한다.

금융회사는 위험 수준별로 통제·관리를 수행하고 초고위험 AI의 경우 출시 여부를 재검토하는 등 위험통제를 위한 절차도 이행해야 한다. 금감원은 설명회·간담회 등을 통해 충분한 의견수렴을 거친 후 1분기 중 최종안을 확정·시행할 예정이다.

금감원은 "모범사례 전파, 도입회사 실태점검 등을 통해 AI RMF의 거버넌스, 위험관리 및 위험통제 프로세스가 금융회사의 내부통제 체계에 안착할 수 있도록 충실히 지원할 계획"이라고 말했다.

주형연 기자 jhy@dt.co.kr

[연합뉴스]