美당국 “AI, 금융 안정성 위협… 상품 추천 이유 알수 없어” 경고

‘AI, 부상하는 취약 요인’ 첫 규정
“출처 알수 없는 자료로 결과물 도출
추천 과정 결함땐 소비자 피해 우려”
교황 “인류생존 위협” 국제공조 촉구

미국 금융당국이 14일(현지 시간) 사상 최초로 인공지능(AI)을 금융 안정성과 건전성을 위협할 수 있는 취약 요인으로 규정했다. 사이버 공격, 기후변화 등과 마찬가지로 AI 또한 현 금융체계와 소비자에게 상당한 위협을 가할 수 있음을 경고한 것이다.

최근 미 증권거래위원회(SEC)가 월가 대형 금융사의 AI 사용 실태를 전수 조사하는 등 미 당국은 금융 분야에 AI를 활용할 때 적용할 규칙을 만드는 작업을 본격화했다. 아직 AI 규제의 밑그림을 그리지 못하고 있는 국내 금융권에도 상당한 시사점을 줄 것으로 보인다.

● “AI의 결과 도출 원리 알기 어려워”

재닛 옐런 미 재무장관은 이날 금융안정감독위원회(FSOC) 회의를 주재하고 AI를 포함한 14개 금융 위협을 지정한 연례 보고서를 공개했다. 옐런 장관은 “올해 위원회는 처음으로 금융 서비스에서 AI 사용을 금융 체계의 ‘부상하는 취약점(emerging vulnerability)’으로 지정했다”고 밝혔다.

FSOC는 2008년 세계 금융위기 같은 대형 위기를 방지하기 위해 2010년 만들어진 기구다. 재무장관이 의장이며 연방준비제도(Fed·연준), SEC, 연방예금보험공사(FDIC) 등 주요 금융당국 수장이 모두 위원으로 참여하고 있다.

이번 보고서가 AI를 주요 위험으로 지정한 이유는 AI 특유의 ‘설명 가능성 부족’ 때문이다. AI 이전의 전산 체계는 ‘인풋’에서 ‘아웃풋’으로 가는 경로가 예측 가능하고 투명했다. 반면 스스로 학습하는 AI는 왜 그런 결과물이 나왔는지를 도출하는 과정이 마치 ‘블랙박스’ 같아 알 수가 없다. 이에 따라 AI 체계가 편향되거나 부정확한 결과를 생성하고 이를 은폐할 수 있다는 우려가 고조되고 있다.

AI가 사용하는 데이터의 신뢰 논란도 끊이지 않는다. FSOC는 “AI는 출처를 알 수 없거나 정리되지 않은 방대한 자료를 근거로 결과물을 내는데 이것이 편향성이 있는지 등을 알 수 없다”고 지적했다. AI가 특정 상품을 고객에게 추천했을 때 그 근거가 될 데이터와 추천 이유 등에 결함이 있으면 결국 소비자 피해로 이어질 수 있다.

또 대출 승인에 사용된 AI가 특정 인종 등에 대한 편향성 등을 바탕으로 일부 고객에게 인종차별적인 결과를 야기할 가능성도 있다. 최근 ‘2023 동아뉴센테니얼포럼’에 참여한 세계적인 미래학자 제이슨 솅커 퓨처리스트 인스티튜트 의장은 “방대한 데이터를 기반으로 한 AI 결과물은 단조롭고 왜곡될 수 있다. 독점적 정보나 기밀이 유출될 수 있다는 점도 위험 요소”라고 지적했다. FSOC 위원이기도 한 게리 겐슬러 SEC 위원장도 영국 파이낸셜타임스(FT) 인터뷰에서 당국이 AI 위험을 통제하기 위해 신속하게 개입하지 않으면 10년 안에 금융 위기를 촉발하는 것을 “거의 피할 수 없다”고 경고했다.

● 교황 “AI 활용 자율무기 체계, 인류 생존 위협”

국내 금융권의 더딘 AI 규제 속도에 대한 우려도 나온다. 대부분의 금융사가 AI를 활용한 서비스를 선보이고 있지만 AI의 금융 활용 위험성에 대비하는 모습은 아직 두드러지지 않고 있다. 오순영 KB국민은행 금융AI센터장은 “생성형 AI는 사람과 구분이 안 될 정도의 성능을 내고 있어 윤리적, 법적 문제가 쟁점이 될 수밖에 없다”고 했다.

프란치스코 교황도 이날 ‘세계 평화의 날’을 맞아 무인기(드론) 등 AI를 활용한 자율무기 체계의 발전, 선거 개입, 감시 사회의 부상 가능성 등을 경고했다. 교황은 “AI가 인류 생존을 위협하고 공동체를 위태롭게 하는 ‘기술 독재’에 빠뜨릴 위험이 있다”며 “AI의 개발과 사용을 규제하는 구속력 있는 국제 조약을 채택하라”고 주문했다.

뉴욕=김현수 특파원 kimhs@donga.com
김보라 기자 purple@donga.com
신아형 기자 abro@donga.com