똑똑해진 AI에…금융당국 관리·감독도 변화한다

여의도 장악한 AI③
금감원, 금융사 AI활용 규율개선 및 감시
"작년 실태점검 결과 금융권 위험통제 미흡"
고객이냐 회사냐…AI 이해상충에도 주목
높아진 관심도에 금감원 AI역량도 강화

[이데일리 김보겸 기자] 금융사들의 인공지능(AI) 활용이 늘어나며 금융 당국의 등 관리·감독의 방향도 바꾸고 있다. 진화하는 AI 서비스가 투자자와 금융사의 이익 중 어느 쪽을 우선으로 할지, ‘이해 상충’ 문제에 제대로 잘 대응하고 있는지 등에 대한 가이드라인을 제시하는 한편 AI 전문 역량을 키우기 위한 인력을 확충하면서다.

[이데일리 문승용 기자]

금융감독원은 올해 초 업무추진계획에 ‘금융권의 AI 활용에 대한 규율개선과 감시시스템 운영 등’을 발표하며 AI 관리·감독에 본격적으로 나서기 시작했다.

금감원 관계자는 “금융권의 AI 활용에 대해 작년 하반기 실태 조사에 나섰다”며 “금융사 자체적으로 위험 통제를 하면서 활용해야 한다는 점을 강조하고 있지만 실태점검 결과 생각보다 관심도 등이 미흡해 이 부분을 주목 중”이라고 설명했다.

금융 당국이 마련한 가이드라인에 따르면 증권사와 은행 등은 AI 활용 전 과정에서 발생할 수 있는 잠재적 위험을 인식하고 이를 최소화하는 방안을 검토해야 한다. 특히 금감원이 주목하는 부분은 AI 도구나 서비스를 도입했을 때 이해상충이 발생하지 않는지 여부다. 업계에 따르면 국제증권감독기구(IOSCO)와 미국 증권거래위원회(SEC) 등은 이미 AI와 같은 첨단기술과 관련한 이해 상충을 규제하고 있다.

금융사가 개발하거나 적용한 AI 모델이 고객의 수익을 최우선으로 하는지 아니면 회사의 이익을 앞에 두는를 금융사가 제대로 파악하고 있어야 한다는 의미다. 예를 들어 100번 거래 투자자에게 10%의 수익을 지급하는 방안과 10번 거래해 9% 수익을 지급하는 방안을 AI가 제시했을 경우 금융회사는 전자를 선택할 수 있다. 다만, 거래로 발생하는 수수료를 공제한 후에도 투자자의 이익을 우선했다는 점을 금융사가 확실히 해야 한다고 당국은 요구하고 있다.

이와 함께 금융사가 고위험 서비스에 AI를 활용할 때는 AI가 해당 서비스에 대해 맥락에 맞게 고객에게 설명하고 있는지도 금융사는 살필 책임이 있다. 설명이 미흡하다면 이를 개선하기 위한 노력이 뒤따라야 한다.

당국은 금융사가 AI 를 활용하며 발생할 수 있는 위험이 어떤 것인지, 고객에게 어떤 손해를 미칠 수 있는지를 금융사가 제대로 파악하고 있는지를 들여다보는 한편 관리 여부도 점검할 방침이다.

특히 감독 당국은 금융사들이 AI 서비스 활용에서 당국의 이 같은 지침을 어겼을 경우 향후 이를 어찌 규제할지도 검토 중이다. AI 서비스만 두고 봤을 때 유럽에서는 이를 사전 규제하는 방향을 택하고 있고, 미국은 사업자들의 자율성을 보다 중요시하고 있다.

금감원 등 당국은 올 들어 AI 관련 인력 채용에도 활발하게 나서고 있다. AI 활용도가 커지고 있는 만큼 이를 제대로 관리·감독하기 위한 전문 역량을 함께 키워나가야 한다는 이유에서다. 업계에 따르면 최근 금감원에는 금융사뿐만 아니라 보안 등 IT 관련 업계 경력직 직원들의 입사가 잇따른다.

금감원 관계자는 “데이터 사이언스, AI, 정보기술(IT) 관련 경력직 채용 확대를 추진하고 있다”며 “금감원 업무 역시 디지털 전환을 추구하는 만큼 IT 검사에 대한 수요가 커지는 것도 AI 인력 채용 확대 이유”라고 했다.

김보겸 (kimkija@edaily.co.kr)