“아빠, 살려줘” 알고 보니 딥페이크

한국서도 ‘가짜 납치’ 사기…“SNS 전체공개 표적 삼아”

인공지능(AI) 영상 합성 기술 ‘딥페이크’를 이용한 ‘가짜 납치’ 사기 사건이 한국서도 포착됐다. 경찰은 생김새나 목소리가 범죄에 노출될 가능성을 낮추려면 사회관계망서비스(SNS) 계정을 ‘전체공개’로 설정하지 않는 게 좋다고 당부했다.

7일 경찰청 국가수사본부에 따르면 지난 10월 한국을 여행 중이던 외국인 A씨의 부모에게 한 영상이 전송됐다. 영상 속에선 A씨가 울면서 ‘살려달라’고 애원하고 있었다. 영상을 보낸 사람은 “당신 딸을 납치했다”면서 “딸을 살리고 싶으면 합의금을 보내라”고 협박했다. A씨 부모는 이 사실을 한국에 있는 자국 영사관에 알렸다.

신고는 한국 경찰에도 접수됐다. 경찰은 A씨가 무사하다는 것을 확인했다. 조사 결과 부모가 받은 A씨의 납치 영상은 딥페이크를 활용한 가짜 영상이었다.

생김새뿐 아니라 목소리도 AI 기술 ‘딥보이스’를 이용해 범죄에 쓰일 수 있다. 경찰 관계자는 “범인이 자녀의 목소리를 복제해 부모에게 전화를 걸어 자녀가 납치된 것처럼 ‘살려달라’고 하거나 ‘돈을 빌려달라’고 한 뒤 즉각 송금을 요구할 수 있다”고 지적했다.

이어 “딥페이크와 딥보이스는 실제 인물을 학습해야 하므로 SNS 등에 공개된 본인과 가족의 영상, 사진, 목소리 등은 범죄조직의 표적이 될 수 있다”며 “기술이 고도화돼 전문가들조차도 진위 판단이 어려워 평소 SNS 등에 불특정 다수가 볼 수 있는 공개 설정으로 게시물을 올리는 것을 지양해야 한다”고 당부했다.

경찰은 지난 9월까지 납치됐다고 속인 전화금융사기 사건이 총 174건 발생했다며 가족이나 지인을 납치했다는 협박 전화나 문자메시지를 받으면 주저하지 말고 경찰에 신고해야 한다고 했다.

안찬수 경찰청 마약조직범죄수사과장은 “AI 발전이 일상생활을 더 편리하게 만들었지만, 동시에 범죄에 악용될 환경을 제공했다”며 “AI 기술을 악용한 피싱 범죄를 예방하기 위해 국내외 홍보 활동을 이어갈 것”이라고 말했다.

전현진 기자 jjin23@kyunghyang.com