美 SEC “투자수익 과장하는 AI워싱 위험”… 월街 실태 전수조사

AI가 포트폴리오 짜고 유망주 추천
JP모건 등 투자자문사들 경쟁 과열
SEC “10년내 AI發 금융위기 우려”
AI 활용현황 정보 요청… 규제 촉각

미국 증권거래위원회(SEC)가 월가 대형 금융사의 인공지능(AI) 사용 실태에 대한 전수조사에 나섰다. 고객에게 맞춤형 투자 포트폴리오를 짜주는 AI를 어떻게 규제할지 고심해 온 SEC가 이번 조사를 바탕으로 규제 틀을 짜려는 것 아니냐는 분석이 제기된다.

10일(현지 시간) 월스트리트저널(WSJ) 등에 따르면 SEC는 최근 JP모건체이스 등 주요 투자 자문사에 AI 활용 현황에 대한 정보를 요청했다. 고객 포트폴리오 관리에 활용되는 AI 알고리즘 모델, AI 관련 마케팅 서류, 데이터에 대한 제3자 제공, 컴플라이언스(준법) 교육 사항 등이 SEC의 요청 내역에 모두 포함됐다. AI 활용 금융서비스가 확산되고 있는 상황에서 이번 조사가 금융 분야 AI 규제의 신호탄이 될지 관심이 쏠린다.

● 유망주 추천, 포트폴리오 설계… AI에 빠진 월가

SEC의 AI 실태조사는 최근 미 월가까지 번진 AI 도입 경쟁을 반영하고 있다. AI 적용 분야도 다양하다. 투자 포트폴리오 작성뿐 아니라 내부 배임 방지 기능도 개발 중이다.

JP모건은 고객들에게 맞춤형 투자 포트폴리오를 짜줄 수 있는 ‘인덱스GPT’를 올해 5월 발 빠르게 상표등록을 마쳤다. 모건스탠리는 오픈AI와 손잡고 자사 재무상담사들을 위한 맞춤형 ‘챗GPT’ 형태의 챗봇을 도입했다.

최근 각종 위법 의혹에 휘말렸던 도이체방크는 생성AI를 통해 트레이더의 ‘통화 톤’에서 위법행위 징후를 감지하는 AI 도구를 개발하고 있다. 한 트레이더가 “우리끼리 비밀로 하자”는 말을 했을 때 이것이 단순한 깜짝파티 계획에 대한 것인지, 모종의 음모가 담긴 것인지 AI가 알아채도록 훈련시키고 있다고 블룸버그통신은 전했다.

세계 1위 자산운용사 블랙록은 사내 AI그룹을 꾸렸다. 2위 뱅가드 또한 고객들의 은퇴 포트폴리오 생성에 AI를 활용하고 있다. 모티머 버클리 뱅가드 최고경영자(CEO)는 5월 “생성 AI 도입으로 상당수 ‘인지 작업’이 일상적인 수준임을 발견했다”며 “많은 사람들은 이 같은 작업이 갑자기 모두 자동화되는 혁명을 겪을 것”이라고 밝혔다.

지난달 국내 AI스타트업 크래프트 테크놀로지스와 LG AI 연구원 또한 공동으로 뉴욕증권거래소(NYSE)에 AI 기반 상장지수펀드(ETF)를 상장해 화제를 모았다. 이 펀드는 AI가 매달 고른 유망한 대형주 종목 100개에 투자한다. 국내 금융권도 AI를 활용한 서비스를 선보이고 있다. 신한은행은 AI 챗봇뿐 아니라 올 3월 AI 음성뱅킹 서비스를 선보였다. 우리은행은 맞춤형 예적금 상품 상담 등에 AI 기술을 적용한 ‘AI 금융상담 서비스’ 구축에 나섰다.

● SEC “AI발 금융위기 우려” 경고

SEC는 계속 위험성을 경고해 왔다. 게리 겐슬러 SEC 위원장은 올 10월 영국 파이낸셜타임스(FT) 인터뷰에서 규제 당국의 신속한 개입이 없으면 향후 10년 내 AI로 인한 금융위기 촉발이 “거의 피할 수 없는 일”이라고 우려했다. 특정 AI 모델 및 알고리즘에 기댄 투자 결정이 금융위기를 부를 집단행동으로 이어질 수 있다는 의미에서다.

최근 ‘2023 동아뉴센테니얼포럼’에서 미래학자 제이슨 솅커 퓨처리스트 인스티튜트 의장도 “방대한 데이터를 기반으로 한 AI 결과물은 단조롭고 왜곡될 수 있다”며 “독점적 정보나 기밀이 유출될 수 있다는 점도 위험 요소”라고 말했다.

AI 관련 과대 광고에 대한 우려 역시 상당하다. 겐슬러 위원장은 “‘그린 워싱(위장 환경주의)’과 마찬가지로 ‘AI 워싱’도 안 된다”고 지적했다. AI가 모든 투자자에게 높은 수익을 안겨줄 것처럼 기대하게 만드는 마케팅을 경계해야 한다는 취지다.

다만 SEC가 규제 일변도의 행보를 걷긴 어렵다는 지적도 있다. 겐슬러 위원장 또한 “(AI가 야기할) 잠재적 위험이 월가 기업이 아닌 기술 기업이 만든 모델에 기반하고 있어 금융규제 당국엔 어려운 도전”이라고 토로했다.

뉴욕=김현수 특파원 kimhs@donga.com
신아형 기자 abro@donga.com