"AI, 금융시스템에 위험"…美 FSOC 첫 경고

연례보고서 새 '취약점' 꼽아
옐런 "내년 감시 목록에 추가
면밀히 모니터링할 것
기존 규제로 통제 가능"

미국 금융 감독 당국이 처음으로 인공지능(AI)을 새로운 금융시스템의 위험 요인으로 규정했다. 기후변화, 가상자산 등과 같이 금융시스템 안정을 해치는 주요 변수 중 하나로 AI를 꼽은 것이다.

14일(현지시간) 주요 외신에 따르면 미국 재무부 산하 금융안정감독위원회(FSOC)는 이날 발표한 연례보고서에서 AI 사용 확산을 금융시스템의 새로운 ‘취약점(vulnerability)’으로 추가했다. FSOC는 2008년 글로벌 금융위기 직후 미국의 금융시스템 안정을 감독하기 위해 설립된 규제기구다. 미 재무부, 연방준비제도(Fed), 증권거래위원회(SEC) 등 주요 금융감독기구들이 참여하고 있다.

FSOC가 AI의 금융시장 위험에 대해서 공식적으로 언급한 것은 이번이 처음이다. FSOC는 보고서에서 "AI 사용 증가가 주식, 채권 등 금융시장 전반에 걸쳐 심각한 위험으로 작용할 수 있다"고 경고했다.

재닛 옐런 미국 재무장관이 14일(현지시간) 미국 워싱턴 DC에서 열린 미국 재무부 산하 금융안정감독위원회(FOSC) 회의에서 게리 겐슬러 증권거래위원회(SEC) 위원장과 이야기를 나누고 있다. FOSC는 이날 발표한 연례보고서를 통해 인공지능(AI)을 기후변화, 은행권 위기, 사이버 보안, 가상자산 등과 함께 금융시스템 안정을 해치는 잠재적 위협 요인으로 꼽았다. 워싱턴DC=AFP연합뉴스

FSOC는 챗GPT 같은 생성형 AI 모델에 대해서도 지적했다. 금융기관들의 생성형 AI를 도입하면서 발생할 수 있는 데이터 보안과 소비자 보호, 사생활 위험 등의 문제와 생성형 AI로 인한 환각 현상(할루시네이션) 등을 지적했다.

특히 일부 AI 모델이 외부에서 내부 업무에 접근할 수 없는 ‘블랙박스’처럼 작동할 수 있다는 점을 우려했다. FSOC는 "이런 설명 가능성(explainability)의 부족은 금융 시스템의 개념적 건전성을 평가하기 어렵게 하고 적합성과 신뢰성에 대한 불확실성을 증대시킨다"고 강조했다.

이번 지적은 민간 부문 전반에서 AI의 활용이 가속화되고 있고 월가에서 로보어드바이징·계좌 개설 프로세스·브로커리지 앱 등에 다양한 방식으로 AI를 도입하고 있는 상황에서 나왔다.

FSOC 수장을 맡고 있는 재닛 옐런 재무장관은 이날 열린 FSOC 회의에서 금융사, 투자자, 시장 참여자들의 AI 사용이 계속해서 증가할 것이라며, 내년 금융시장 감시 목록에 AI를 추가해 면밀하게 모니터링할 것이라고 밝혔다. 다만 AI를 규제 대상으로 상정하지는 않았다. 옐런 장관은 "AI가 금융 안정성에 새로운 위협이긴 하지만 기존 규제를 통해 (잠재적 위험성에 대한) 통제가 가능할 것"이라고 말했다.

이번 FSOC의 경고는 AI의 잠재적 위험에 대해 경계하는 차원에서 이뤄졌다. FSOC가 앞서 2021년 10월 기후변화를 미 금융 안정성에 대한 새로운 위협 요인을 지목하고 관련 위험성을 주시해왔던 것처럼 AI의 잠재적 위협을 측정, 평가, 관리하는 프레임워크를 추진하겠다는 것이다.

SEC도 오랫동안 AI 위험에 대해 경고해왔다. 게리 겐슬러 SEC 위원장은 앞서 지난 10월 영국 한 언론과의 인터뷰에서 AI에 의한 금융안정 위협으로 제2의 글로벌 금융위기가 발생할 수 있다고 지적했다.

그는"(당국의) 신속한 개입 없이는 10년 안에 AI가 금융위기를 촉발하는 것을 피할 수 없을 것"이라며 AI 플랫폼에 대한 권력 집중에 있어, 금융 안정성을 관리할 수 있는 방법을 신속하게 찾아야 한다고 촉구했다. 그러면서 월가 전반에 타격을 입힐 수 있는 AI의 잠재적 위험이 감독기구의 손길이 미치지 않는 기술기업에서 비롯됐다는 점에서 상당히 어려운 도전이 될 것이라고 우려했다.

증권 당국 뿐만 아니라 경쟁 당국과 정가에서도 AI에 대한 규제의 칼날을 세우고 있다. 백악관은 지난 10월30일 AI의 질서있는 개발과 기술에 따른 부작용을 막기 위한 행정명령을 발표했으며, 미 의회에서는 AI 규제안 논의에 착수한 상태다. 미 연방거래위원회(FTC)는 AI 열풍을 이끌고 있는 ‘챗GPT’ 개발사 오픈AI를 대상으로 소비자보호법 위반 여부를 조사하고 있다.

조유진 기자 tint@asiae.co.kr