“고객 승인 없이 돈 옮긴다”… 美 은행권, 독자 행동하는 ‘AI 에이전트’ 공포에 비상

편의 위해 넘겨준 비밀번호의 부메랑… 주인 몰래 돈 옮기고 무단 거래 위험 직면
월가 대형 은행들 ‘AI 접근 전면 차단’ 긴급 대책… “절대 ‘사물’과 비번 공유 말라”

인공지능(AI) 에이전트가 고객의 명확한 승인 없이 스스로 금융거래를 실행하거나 자금을 이동시킬 수 있다는 우려가 제기되면서, 미국 대형 은행들이 긴급 대응책 마련에 착수했다. 편리함을 무기로 금융권에 깊숙이 파고든 AI가 인간의 통제를 벗어나 금융 시스템 전체를 흔들 수 있다는 강력한 경고음이 울리고 있다.

23일(현지시간) 미국 인터넷매체 악시오스에 따르면 JP모건체이스 등 미국 주요 은행들은 AI 에이전트가 고객 계좌에 무단 접근해 독자적인 행동을 시도하려 한 정황을 포착하고 보안 조치를 대폭 강화하고 있다.

고객들이 금융 업무의 편의를 위해 외부 AI 에이전트에 계좌 로그인 정보를 제공하는 사례가 늘면서 은행의 정식 보안 검증을 거치지 않은 AI의 계좌 접근이 급증했기 때문이다. 더 큰 문제는 일부 AI 에이전트가 사용자의 구체적인 지시와 상관없이 스스로 판단해 금융 활동을 벌이려 했다는 점이다.

“사용자 의도와 다르게 작동”… 대규모 ‘AI 뱅크런’ 초래 위험도

은행들이 가장 두려워하는 것은 AI 에이전트의 예측 불가능한 일탈과 그로 인한 파급효과다. AI 에이전트가 요청 처리 과정에서 승인받지 않은 거래를 실행하거나 마음대로 자금을 이동시킬 경우, 개인의 금전적 피해를 넘어 금융 시스템 전반에 심각한 대혼란을 초래할 수 있다.

실제로 최근 학계에서는 AI의 자율성이 가져올 끔찍한 시나리오를 경고했다. 지난달 한 경제학자는 수많은 AI 에이전트들이 이용자들의 예금을 조금이라도 더 높은 금리를 주는 다른 계좌로 일제히 자동 이체할 경우, 순식간에 대규모 예금 인출 사태인 ‘디지털 뱅크런’이 발생해 은행 시스템이 붕괴할 수 있다고 경고했다.

월가의 거물인 제이미 다이먼 JP모건 최고경영자(CEO) 역시 이달 초 시카고 행사에서 AI 에이전트의 위험성을 공개 경고했다. 다이먼 CEO는 “AI가 당신을 대신해 적절하게 행동할 것이라고 가정하지만, 실제로는 그렇지 않을 수 있다”고 지적하며, 기술 발전 속도에 맞춰 철저한 관리와 통제가 선행되어야 함을 강조했다.

‘비밀번호 공유 금지’… ‘읽기 전용’ 권한 등 빗장 걸어 잠그는 은행들

사태의 심각성을 인지한 JP모건 등 대형 은행들은 즉각 AI 에이전트의 계좌 접근을 차단하는 조치에 나섰다. 아울러 고객이 비밀번호를 직접 넘겨주지 않고도 외부 AI 서비스를 이용할 수 있는 안전망 구축과 함께, AI 에이전트가 잔액이나 내역 조회만 가능하고 직접 송금이나 거래는 할 수 없도록 차단하는 ‘읽기 전용’ 접근 권한 적용을 대안으로 검토 중이다.

JP모건 대변인은 “어떤 상황에서도 고객은 비밀번호를 다른 사람이나 ‘사물(AI)’과 공유해서는 안 된다”며 강력한 주의를 당부했다.

한편 은행들은 AI를 악용한 대규모 사이버 공격 가능성에도 전방위로 대비하고 있다. 앤트로픽이 개발한 첨단 AI 모델 ‘미토스’의 초기 시험에 참여해 전산망 보안 취약점을 점검해 온 은행권은, 향후 AI 발(發) 대규모 공격이 현실화될 경우 고객 계좌를 보호하고 금융 마비를 막기 위한 초강수 비상계획(컨틴전시 플랜) 수립에 속도를 내고 있다.

이규화 기자 david@dt.co.kr