“알고 봐도 모르겠다” 딥페이크 사기…45배 폭증한 나라도 있다는데

아태지역 딥페이크 사건 1년새 1530% 늘어
필리핀 증가율 4500% 달해 1위, 홍콩 13배

딥페이크로 만든 버락 오바마 미국 전 대통령의 모습 [사진=워싱턴대학]

아시아태평양(APAC) 지역 국가 사이에서 딥페이크 사용이 급증하고 있다는 연구 결과가 나왔다.

디지털 신원 확인 솔루션 제공업체 섬섭(Sumsub)이 최근 발표한 ‘섬섭 신원 사기 보고서 2023’에 따르면 APAC 지역의 딥페이크 사건(case)이 지난해 대비 1530%나 증가한 것으로 나타났다. 필리핀은 4500%로 가장 많이 증가한 국가로 나타났으며 홍콩 1300%, 말레이시아 1000%, 싱가포르는 500% 증가한 것으로 집계됐다. 북미 지역 딥페이크도 전년 대비 1530%나 증가한 것으로 나타났다.

페이블 칼라딘 섬섭 인공지능(AI) 기계학습 책임자는 “사기꾼은 단순히 마스크를 쓰는 것부터 복잡한 딥페이크를 만드는 등 다양한 방법으로 시스템을 속이려 할 수 있다”라며 “딥페이크는 기계학습을 이용해 가짜 페르소나를 생성하거나 조작된 사진과 비디오를 이용해 기존 인물로 가장할 수 있다”라고 말했다. 신분 사기 목적의 딥페이크 사용은 중동과 아프리카에서 450%, 라틴 아메리카에서 410% 증가했다. 딥페이크 사기 비율이 높은 5대 산업에는 온라인 미디어, 전문 서비스, 운송 및 비디오 게임 등이 꼽혔다.

지난 6월 공개된 넷플릭스 드라마 ‘블랙미러’에 등장한 셀마 헤이엑. 딥페이크를 이용해 실제 배우 얼굴을 구현한 가상 배우다. [사진 출처=넷플릭스]

섬섭은 이번 보고서에서 이전에는 관찰하지 못한 새로운 추세를 경고했다. 먼저 신원 사기 ‘연구자’들이 만드는 문서가 ‘선진국’의 문서에서 정교하게 위조되고 있었다. 보고서는 “선진국의 문서는 신뢰할 만한 것으로 여겨지기 때문에 사기꾼들의 새로운 표적이 되고 있다”라며 “겉보기에 신뢰할만한 문서라도 문서 검증에 나서야 한다”라고 경고했다.

두번째는 규제받지 않는 기업이 표적으로 떠올랐다는 것이다. 보고서는 “규제 프레임워크가 중요한 역할을 하는 시대에 규제받지 않는 기업은 사기꾼의 전술에 점점 더 취약해지고 있다”라고 밝혔다.

같은 디지털 신원 확인 기업 온피도가 최근 발표한 보고서도 비슷한 결과가 나왔다. 온피도의 2024년 신원사기 보고서에 따르면 2023년 딥페이크 시도는 전년 대비 3000%나 증가했으며 디지털 위조 신원과 관련된 사기는 5배가량 늘어난 것으로 집계됐다. 보고서에 따르면 디지털 문서 위조는 18% 증가한 반면 실제 위조는 17% 감소했다. 문서 사기의 표적이 된 문서 중 가장 많은 것은 주민등록증과 같은 개인 신분 ID로 46.8%를 차지했으며 여권이 26.7%로 그 뒤를 이었다.