“고객님~” 목소리 나오자 폰에 떴다… “사기 의심”

사기 피해 막는 AI 기술 등장

“○○○ 고객님 맞으시죠? 농협은행 상담사입니다. 고객님 신용을 개선할 수 있는 금융 상품을 소개해 드리려고요.” 수화기 너머 목소리가 이어 연락처, 신용카드 정보를 요구하자, 스마트폰에서 ‘보이스피싱 의심 전화’ 화면과 함께 경고음이 흘러나왔다. LG유플러스가 서울의 한 매장에서 시연 중인 보이스피싱 탐지 기능으로, 이달 아이폰용 인공지능(AI) 통화 비서 앱 ‘익시오’에 탑재해 출시한다는 계획이다.

이 기능엔 실제 보이스피싱 범죄 데이터가 활용됐다. 보이스피싱범이 피해자를 속인 패턴·키워드를 AI가 학습한 뒤, 특정 통화에서 비슷한 내용이 감지되면 이용자에게 위험하다고 알려주는 것이다. 회사 관계자는 “스마트폰 자체에서 분석하는 온디바이스(내장형) AI 방식이라 통신사도 통화 내용을 알 수는 없다”고 말했다. KT도 비슷한 서비스를 이달 스팸 차단 앱 ‘후후’에서 선보일 예정이다. 신분증·비밀번호·금전 요구 같은 다양한 위험 상황을 탐지한다. 현재 임직원 대상으로 테스트하고 있다.

AI를 이용해 사기 피해를 막는 서비스가 최근 잇따라 등장하고 있다. 사기 범죄가 늘어나고 수법도 날로 진화하면서 통신사부터 금융사, 중고 거래 플랫폼까지 서비스 개발에 뛰어들었다. 배달 앱은 AI로 허위 리뷰를 걸러내고, 보험사는 사고 내용을 AI에 학습시켜 보험 사기를 적발한다. 이전에는 사람이 직접 하나하나 확인해야 했던 일을 AI가 대신하고 있는 셈이다.

그래픽=김하경

◇AI 기술로 사기 잡는다

최근 사기 잡는 AI에 가장 적극적인 곳은 온라인 플랫폼 업체다. 온라인 공간을 활용한 사기 범죄가 늘어나는 만큼 소비자를 보호할 책임도 커졌기 때문이다. AI는 보통 과거 사기 사례를 학습해 사기범이 자주 쓰는 단어·수법 등을 파악하는데, 온라인 플랫폼은 AI를 학습시킬 데이터를 상대적으로 쌓기 쉽다.

카카오는 지난 8월 카카오톡에서 프로필 사칭 의심 계정을 탐지하는 ‘페이크 시그널’ 기능을 내놨다. ‘증권 매니저’ 같은 허위 프로필을 달고 이용자에게 카카오톡으로 투자를 권유하는 식의 사기 피해를 막으려는 것이다. 허위 의심 계정이 이용자에게 메시지를 보내 대화를 걸면 ‘허위 프로필이 의심되는 사용자’ 경고문이 뜬다. 카카오 관계자는 “해당 계정이 이전에 제재받은 내용이나 프로필·오픈채팅방에서 사용하는 태그·이미지·소개문 등을 분석해 프로필 사칭 여부를 판단한다”고 말했다.

음식 배달 앱 배달의민족은 가짜 리뷰를 잡아내는 데 AI를 활용하고 있다. 허위 리뷰로 별점을 올리고 소비자에게 잘못된 정보를 주는 일이 늘자 도입한 조치다. 작년 1월부턴 리뷰 조작 회원을 찾아내는 수준을 넘어 그 회원과 가게 연관 관계를 분석해 리뷰 조작 업체를 가리는 것도 가능해졌다. 회사 측은 “AI가 자동 탐지하고서 필요하면 사람이 한번 더 확인하는 방식으로 한 해 9만여 건 허위 리뷰를 걸러내고 있다”고 했다.

그래픽=김하경

◇보험사도 활용… 수십 억 사기 적발

은행·카드·보험사처럼 큰돈이 오가는 금융사는 AI를 활용해 이상 거래 탐지 시스템(FDS)을 고도화하고 있다. AI에 대규모 데이터를 학습시켜 사기 특징을 찾아내고, 이전에 적발하기 어려웠던 이상 거래까지 잡아내는 것이다.

삼성화재는 지난해 6월 종전 보험 사기 방지 시스템을 고도화한 후 약 반년 만에 총 63건, 33억1000만원 규모의 보험 사기를 적발하는 데 성공했다. 고객 정보를 입력하면 AI가 보험 사기 지표 456가지를 기반으로 위험도를 산출해 준다. 예컨대 특정 장소에서 일어난 사고가 보험 사기로 이어진 경우가 많았다면 이를 점수에 반영하는 식이다. AI를 접목한 사기 탐지 기술 도입은 해외에서도 이뤄지고 있다. 비자(VISA)는 최근 “AI 등 기술 투자 덕분에 지난해 총 8000만건, 400억달러(약 54조원) 상당의 사기 거래를 예방할 수 있었다”고 밝혔다.