“사진 보면 믿으실까요”… 요즘 사기꾼들 ‘AI 달인’

주민증·상품권·운송장 등 조작
화성서 2900만원 티켓팅 피해도
육안 판별 애로 전국서 잇따라
“확인 사이트 안내 의무화해야”

AI로 조작된 것으로 추정되는 사업자등록증. A씨가 피해 사실을 인지한 뒤 해당 사업장에 전화해 확인해보니 대표자 이름의 성만 바꾼 상황이었다. /A씨 제공

화성에 거주하는 A(42)씨는 지난달 26일 지인에게 선물로 주려 대리 티케팅을 요청했다가 최종적으로 2천900만원의 사기 피해를 입었다. A씨가 의뢰한 SNS 계정은 대전에 주소지를 둔 ‘상품권 판매업체’로 설정돼 있었으며, 문의 과정에서 사업자등록증과 대표자 명의의 주민등록증까지 보여주며 신뢰를 유도했다. 또 가상계좌 악용 사례가 많아 생긴 규정이란 이유로 10분 내에 돈을 재입금하지 않으면 계좌가 동결된다고 협박하기도 했다.

A씨는 “사기범이 3년 동안 장사를 해왔고 두 아이의 엄마라고 강조하며 빠른 입금을 유도했다”며 “계좌 이름이 잘못됐다거나 이상 거래로 송금이 막혔다며 조작된 홈페이지 화면까지 보여주며 다그쳐 결국 2천만원을 대출받아 돈을 보냈다”고 토로했다.

B씨가 휴대폰 중고거래 과정에서 완납하기 전 받은 조작된 송장 이미지. /B씨 제공

경기지역에서 인공지능(AI)으로 문서를 조작한 것으로 추정되는 사기 범죄가 잇따르고 있다.

평택의 한 아파트에 거주하는 B(38)씨도 지난 2일 아파트 입주민 카페에서 신세계 모바일 상품권(30만원권) 8매를 212만원에 거래했다. 그러나 사용 과정에서 ‘쿠폰 번호가 존재하지 않는다’는 안내문구를 보고서야 사기를 당했다는 사실을 알게 됐다. B씨는 “바코드가 모두 스캔 자체가 되지 않았다”며 “8장 모두 조작된 이미지였다”고 했다.

C씨가 212만원에 거래한 신세계 모바일 상품권을 사용하려고 시도했으나, 안내창에 ‘쿠폰 번호가 존재하지 않는다’고 표시됐다. /C씨 제공

중고 거래 과정에서 택배 송장까지 확인한 뒤 대금을 완납했지만, 송장 자체가 위조된 경우도 있었다. 용인에 거주하는 C(19)씨는 지난달 24일 중고 거래 플랫폼을 통해 70만원 짜리 휴대전화를 구입했다. 피해가 우려돼 35만원을 선입금한 뒤 택배 운송장 사진을 받았고, 다시 35만원을 송금했다. 그러나 송장번호를 조회하자 배송 정보가 확인되지 않았다. 해당 사건은 다수의 피해자가 발생해 현재 서울강북경찰서에 배정됐다. C씨는 “피해자들이 모인 단체 채팅방에서 동일한 수법과 계좌번호로 피해를 입은 사람이 여럿 있다”고 설명했다.

AI를 사용한 범죄는 전국적으로 발생하고 있다. 문서 이미지를 빠르게 위조할 수 있을 뿐만 아니라 육안으로는 판별하기 어려워, 범죄 수법으로 일상 속 깊숙이 스며든 모습이다. 최근 부산에서는 투자 사기로 구속될 위기에 처한 20대가 변제능력이 있는 것처럼 꾸미기 위해 AI로 위조한 잔고증명서를 법원에 제출해 구속을 면한 사건도 있었다.

전문가들은 주요 플랫폼에서 AI 조작 여부를 확인할 수 있는 사이트 안내 규정이 필요한 시점이라고 지적한다.

최병호 고려대 휴먼인스파이어드AI연구원 교수는 “빅테크 모델은 고유한 패턴을 갖고 있어 판별 사이트를 활용하면 위조 여부를 확률적으로 확인할 수 있다”며 “사람이 일부 손을 보면 정확도가 떨어질 수 있지만, 그만큼 추가 비용이 들기 때문에 이 정도 수준까지 범죄에 활용될 가능성은 상대적으로 낮다”고 설명했다. 이어 “중고 거래 플랫폼에 이러한 판별 사이트를 안내하도록 의무화하는 등 최소한의 법적 규제가 필요해 보인다”고 덧붙였다.

/목은수 기자 wood@kyeongin.com