AI 금융시스템에 큰 위협...美 금융감독당국 처음으로 우려했다

미 FSOC AI 급부상하는 취약점으로 공식 규정
금융기관 AI 사용 신중하게 해야 권고

AI(인공지능)이 탑재된 휴머노이드 로봇 아메카 /사진=AFP연합뉴스

【실리콘밸리=홍창기 특파원】

미국 금융 감독 당국이 AI(인공지능)이 금융 시스템에 위험을 초래할 수 있다고 경고했다. AI를 '급부상하는 취약점'(emerging vulnerability)으로 공식 규정하며 챗GPT 같은 생성형 AI 모델에 대한 우려도 내놨다.

14일(현지시간) 미국 CNN방송 등에 따르면 미 금융안정감독위원회(FSOC)는 이날 연례 보고서를 내고 AI의 위험을 처음으로 인정했다.

재닛 옐런 재무장관이 이끄는 FSOC는 지난 2008년 금융 위기 이후 신설된 조직이다.

미 FSOC는 "AI가 혁신을 촉진하고 효율성을 높일 잠재력이 있지만 금융 분야에서의 사용은 잠재적 리스크를 관리하기 위한 신중한 시행과 감독을 요구한다"고 밝혔다.

FSOC는 "이미 많은 분야의 전문가들이 AI 기술이 통제 불능 상태로 성장하면 재앙적인 결과를 초래할 수 있다고 지적했다"라고 전했다.

금융기관들의 생성형 AI 도입에 따른 데이터 보안과 소비자 보호, 사생활 위험을 지적한 것이다.

또 FSOC는 생성형 AI가 환각 현상(할루시네이션)으로 불리는 결함 있는 결과를 내놓을 수 있다는 점도 우려했다. 일부 AI 모델이 외부에서 내부 업무에 접근할 수 없는 '블랙박스'처럼 작동할 수 있다는 점도 FSOC의 걱정이다.

FSOC는 "이런 설명 가능성(explainability)의 부족은 금융 시스템의 개념적 건전성을 평가하기 어렵게 하고 적합성과 신뢰성에 대한 불확실성을 증대시킨다"고 짚었다.

은행들이 베일에 싸인 AI 모델에 의존하게 되면 금융 시스템이 얼마나 견조한지 알기 어렵다는 것이다.

한편, FSOC에 참여하는 미국 증권거래위원회(SEC)는 금융기관의 AI를 활용실태 조사에 이미 착수했다. 또 백악관도 AI 리스크 완화를 위한 행정명령을 발표한 상황이다.

미국 금융감독당국이 처음으로 AI에 대한 우려를 표명했다. /사진=로이터연합뉴스