딥페이크로 만들어진 상사에 속아…340억원 보낸 홍콩 금융사 직원

기사와 직접적 관련 없는 참고사진. 게티이미지

홍콩의 한 금융사 직원이 딥페이크(생성형 AI를 활용한 가짜 이미지나 영상)로 만들어진 가짜 상사와의 영상통화에 속아 2억 홍콩달러(약 342억 원)를 송금하는 사기를 당했다.

4일(현지시간) 홍콩 사우스차이나모닝포스트(SCMP)와 미국 CNN에 따르면 홍콩 경찰 당국은 지난 2일 브리핑을 통해 최근 이 같은 AI 딥페이크 사기가 기승을 부린다며 각별한 주의를 당부했다.

홍콩 경찰에 따르면 지난달 중순 한 글로벌 금융사의 홍콩 지부에서 일하는 재무직원은 영국 본사의 최고재무책임자(CFO)에게 받은 이메일에서 거액의 돈을 비밀리에 거래할 것을 요구받았다.

직원은 처음에 CFO를 가장한 피싱 메일로 치부했다. 그러나 이후 초대된 그룹 화상회의에서 동료 여러 명과 CFO가 참석한 것을 확인하곤 의심을 거뒀다. 이들의 얼굴과 목소리가 직원이 아는 실제 인물과 동일했기 때문이다.

직원은 이들의 지시에 따라 홍콩 시중은행 계좌 5곳에 15차례에 걸쳐 총 2억 홍콩달러를 이체했다. 그는 이후 영국 본사에 직접 문의한 끝에 사기당했음을 알고 경찰에 신고했다.

사기꾼 일당은 CFO를 비롯해 화상회의에 참석한 모든 직원의 얼굴을 딥페이크로 재현해 피해 직원을 속인 것으로 드러났다. 홍콩 경찰 당국자는 “여러 명이 참석한 화상회의에서 이 직원이 봤던 모든 사람은 가짜였다”고 말했다.

피의자들은 직원의 의심을 차단하기 위해 그룹 화상회의 외에도 메신저와 이메일, 일대일 화상통화를 병행하는 등 범행 수법을 다양화했다. 입금 지시는 주로 그룹 화상회의를 종료하기 직전에 내렸다.

홍콩 경찰은 최근 적발된 딥페이크를 악용한 사기 행각이 최소 스무 건에 달한다고 밝혔다. 최근 체포된 또 다른 사기 일당은 지난해 7월~9월 분실 신분증 8개를 도용해 만든 딥페이크 이미지로 은행 대출 90건을 받고 계좌 54개를 만들었다.

타일러 찬치웡 경감은 관련 브리핑에서 딥페이크물에 의한 사기 피해를 예방하려면 화면 속 대화 상대에게 고개를 움직이도록 요구하고 둘만 아는 내용을 질문해 보라고 조언했다. 또 어떠한 상황에서도 상대방이 금전을 요구할 경우 경계를 늦춰선 안 된다고 당부했다.

딥페이크(deepfake)는 AI 기술인 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어다. 인공지능으로 특정 인물의 이미지나 목소리 등을 디지털 콘텐츠에 합성하는 기술이다. 최근 딥페이크 기술을 악용한 허위 정보가 확산하는 사례가 늘고 있다.

미국에서는 팝스타 테일러 스위프트의 얼굴 사진을 합성한 음란 이미지가 소셜미디어에 유포돼 팬들의 공분을 일으켰다. 지난달 23일 미 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭해 현지 민주당 당원들에게 경선 불참을 권유하는 딥페이크 음성이 유포돼 논란이 일기도 했다.

이혜원 동아닷컴 기자 hyewon@donga.com