“수상한 거래 AI로 적발”…중고플랫폼, ‘사기’ 잡는 AI 도입 속속

"제가 내일 휴가를 가서요. 일부라도 선입금 가능한가요? 물건은 동생이 바로 보낼 거예요."

판매자의 상황 설명은 구체적이었다. 계좌번호를 적은 손바닥 사진을 보니 더 믿음이 갔다. 그래서 송금을 했다. 하지만, 돌아온 것은 '벽돌'을 담은 택배 상자였다. 최근 중고거래 플랫폼에서 '먹튀'를 당한 A씨의 사연이다.

중고거래 플랫폼까지 침투한 사기 거래에 주요 플랫폼들이 '인공지능(AI)'이라는 칼을 뽑아들었다. 중고거래 자체에 대한 신뢰도 하락과 이용자 이탈을 막기 위한 조치로 풀이된다.

10일 유통업계에 따르면 당근·중고나라·번개장터 등이 사기 거래 시도를 차단하기 위해 빅데이터·머신러닝 기술을 속속 도입하고 있다. 사기 위험에 대한 조기 포착과 신속 대응에 초점을 두고 AI 기술을 고도화해 나가고 있다.

당근은 최근 사기 패턴을 감지하는 AI 에이전트를 도입했다.

이 AI에이전트는 이용자 게시글, 채팅, 동네인증, 휴대기기 정보 등 다양한 정보를 종합적으로 분석해 의심 패턴을 감지하고 위험도를 평가한다. 모니터링 전문인력이 결과를 확인해 신고나 제재 등 필요한 조치를 취한다.

당근 관계자는 "AI 에이전트 도입으로 사기 패턴 감지에 소요되던 시간은 줄고 대응은 더 빠르고 정확해져 거래 과정에서 발생할 수 있는 위험도 한층 줄어들 것으로 보인다"고 말했다.

채팅 시에는 사기 이력이 있는 계좌번호, 전화번호 등 위험 번호가 아예 노출되지 않도록 했다.

이용자에게 경고 알림을 주는 것을 넘어서 자동 삭제되게 한 것인데, 이는 외부 채널로 유도하는 사기 시도 가능성을 줄이기 위해서다.

당근 관계자는"앞으로도 시스템을 지속적으로 고도화해 이용자들이 더 신뢰할 수 있는 안전한 거래 환경을 만들어 가겠다"고 말했다.

중고나라는 AI 탐지·자동알림 시스템을 운영 중이다. 자체 이상거래 탐지 시스템(FDS)에 누적된 사기 이력 정보를 기반으로 해당 정보가 중고나라 앱 채팅·게시글 등에서 언급되면 이를 자동 탐지·경고하는 시스템이다.

이 시스템을 통해 최근 동일 시간대에 판매자가 다수의 구매자에게 다양한 지역(서울, 부산)에서의 직거래를 채팅으로 제안한 정황을 탐지해 냈다. 이후 모니터링 전문인력에게 사기 의심을 알려 제재 조치를 했다고 중고나라는 설명했다.

이런 것이 가능했던 것은 사기 거래자의 행동패턴을 데이터 기반으로 분석해 지표화 가능한 부분을 추출·정형화했기 때문이다.

정형화된 특성(feature)을 기반으로 사기 이용자(유저)와 일반 이용자를 판단하는 일종의 기준선인 '결정 경계'(decision boundary)를 머신러닝(ML) 분류모델에 학습시키고, 이를 분류 기준으로 활용하는 원리다.

이렇게 해서 사기 의심 패턴이 발견되면 모니터링 전문인력이 확인해 제재를 한다.

중고나라는 AI 사기 탐지 시스템으로 하루 평균 38건(최근 1개월 기준)의 사기 거래를 탐지했다.

중고나라 관계자는 "데이터 엔지니어, 머신러닝 엔지니어, 데이터 라벨러 등 총 8명으로 구성된 기술연구소 머신러닝팀을 통해 데이터 플랫폼을 구축·운영하고, 머신러닝 모델을 개발하고 있다"고 설명했다.

번개장터는 빅데이터와 머신러닝 기술을 활용한 '자동 사기 탐지 시스템'을 통해 앱 채팅 서비스인 '번개톡'에서 사기 유형을 감지하고 있다.

계좌번호, 전화번호 등 특정 문구가 대화 또는 이미지로 언급될 경우 자동으로 경고 알림을 발송하고 사기 징후가 명확해지면 즉시 차단한다.

최근에는 이 기술을 AI 기반 이미지 감지 기술로 고도화했다. 이를 통해 손바닥이나 종이에 적힌 계좌번호를 촬영해 올린 이미지 속에서도 사기 여부를 감지해 차단할 수 있게 됐다.

한편 올해 국내 중고거래 시장 규모가 43조원(업계 추정)에 이를 것으로 전망되는 가운데, 지난해 경찰청에는 10만539건의 중고거래 사기 신고가 접수됐다. 이는 전년(7만8320건) 대비 28.4% 늘어난 수치다. 피해 금액은 전년 대비 2배 이상 늘어난 3340억원이었다.

김수연 기자 newsnews@dt.co.kr

이미지는 기사와 직접적 연관이 없음. [정연주 제작] 일러스트