“피싱 꼼짝마”… AI가 의심전화 끊고 가짜 목소리 찾는다

이통 3사, 스팸 방지기술 고도화
KT, 긴급 망 차단 서비스 개발 운영
실시간 피싱탐지 하반기 출시 계획
SKT도 스미싱 필터링 서비스 예정
보안성능 강화 개인정보 유출 차단
LGU+는 화자음성 분석 조작 판별
딥 러닝 활용… 음성 인식률 제고 박차

불법 피싱 범죄는 스팸 문자와 전화 등 통신을 통해 시작된다. 악성코드가 심어진 각종 스미싱(문자 메시지를 이용한 피싱 범죄) 메시지가 범죄의 시발점인 만큼 이통사들은 저마다 고객들의 피싱 범죄를 사전에 막기 위해 고군분투하고 있다. 최근엔 인공지능(AI)기술을 접목해 스팸방지기술을 고도화하고 있다. 특히 통신 기반 범죄의 예방에 필요한 AI 개발엔 민감한 개인정보 등이 필요하다. 이에 통신사들은 외부 서버가 아닌 스마트폰 자체에서 범죄 여부를 판단할 수 있는 온디바이스 AI를 활용하고, 목소리 식별 기술 등 부가기술을 확보해 고객들의 불법 피싱 범죄 피해를 사전에 차단하겠다는 방침이다.

KT는 11일 보이스피싱 범죄에 사용되는 번호를 네트워크상에서 긴급 차단할 수 있는 ‘긴급 망 차단 서비스’를 개발해 전날부터 KT 망을 사용하는 범죄 회선에 대한 실시간 차단을 시작했다고 밝혔다. 기존엔 수사기관 요청에 따라 범죄 회선을 이용 정지시키기까진 최소 만 하루의 시간이 소요됐다면, 이번 긴급 망 차단 시스템 도입으로 즉시 범죄 회선의 전화 수·발신을 차단함으로써 보이스피싱 위협에 노출된 피해자들을 신속하게 보호할 수 있게 된 것이다.

여기에 KT는 하반기 중 AI 기술을 활용한 ‘실시간 보이스피싱 탐지’ 서비스 개발을 완료하고, 연내 출시한다는 계획이다. 실시간 보이스피싱 탐지 서비스란 현재 통화 중인 보이스피싱의 위험도를 휴대폰에서 탐지해 고객에게 알려주는 기능이다. 위험도가 높다고 판단되면 간편 신고를 통해 범죄 피해를 사전에 차단할 수 있다.

특히 외부 연동 없이 자체적으로 동작할 수 있도록 ‘온디바이스 AI’를 적용한다. 온디바이스 AI는 서버나 클라우드에 연결할 필요 없이 모바일 기기 자체적으로 정보를 처리할 수 있다는 것을 의미한다. 이를 통해 민감한 개인정보가 포함된 음성 통화 데이터를 외부로 보내지 않고도 고객이 안심하고 서비스를 이용할 수 있도록 설계했다.

특히 눈여겨볼 기술은 KT의 AI 클린 메시징 시스템이다. 이 시스템은 스팸과 관련한 다양한 데이터를 학습한 AI 모델로 제한적인 스팸 차단 환경에서 다량의 데이터를 분석해 악성 웹페이지나 스미싱 설치 파일로 연결하는 특정 웹페이지(URL)를 찾고 특정 의도를 담은 불법 스팸과 정상적인 문자를 구분한다. 핵심은 ‘악성 URL 필터링 모델’이다. 악성 URL 필터링 모델은 URL의 텍스트 형태 외에도 URL로 연결되는 웹페이지의 구조(HTML 정보)까지 확인해 해당 URL의 악성 여부를 분석할 수 있다. 악성 URL 필터링 모델이 분석하는 정보는 국내의 경우 한국인터넷진흥원(KISA)의 스팸 신고 데이터에서, 국외는 글로벌 피싱사이트 공유 플랫폼 피시 탱크로부터 주기적으로 수집된다.

KT 고객경험혁신본부장 이병무 상무는 “긴급망차단서비스와 실시간 보이스피싱 탐지 서비스, 그리고 분실폰 위치 찾기 서비스를 통해 고객이 더 안전하고 편리한 통신 생활을 즐길 수 있을 것”이라며 “KT는 고객 보호를 최우선으로 생각하며 앞으로도 고객이 안전하고 안심할 수 있는 서비스를 제공하겠다”고 말했다.

SK텔레콤도 연내 AI 기반 스팸·스미싱 필터링 시스템 온디바이스 모델의 출시를 앞두고 있다. 보이스 피싱 범죄의 고도화로 ‘통화 내용’을 직접 듣고 탐지하지 않으면 범죄유무를 판단하기 어렵다. 하지만 직접 데이터를 주고받는 과정에서 개인정보 등 데이터가 유출될 가능성이 있다. 이에 SK텔레콤은 KT와 마찬가지로 스마트폰 단말기 내부에 온디바이스 AI 기반 모델을 구축해 민감한 개인정보 보안을 한층 강화한다는 계획이다.

SK텔레콤은 온디바이스 AI기술 구현을 위해 소형 언어 모델(sLLM)을 구축하고, sLLM에 필요한 데이터를 최근 개인정보위원회와 금융감독원, 국립과학수사연구소, KISA를 통해 확보했다. 그 결과 보이스피싱 관련 2만1000건에 해당하는 통화데이터를 비식별처리해 받았고, 향후 AI 모델 미세 조정을 거쳐 보안과 기능을 정교화한 AI를 내놓겠다는 계획이다.

SK텔레콤 관계자는 “SK텔레콤의 보이스피싱, 스팸?스미싱 범죄 대응에 따라 이용 고객 중 피해자 규모는 2021년 1월 52.96%에서 2023년 12월 35.96%로 계속해서 감소하는 추세”라며 “앞으로도 SK텔레콤은 고객이 전기통신 금융사기 범죄로부터 안전할 수 있도록 지속해서 노력할 계획”이라고 밝혔다.

LG유플러스는 자체 AI 기술 ‘익시(ixi)’를 활용해 개발한 ‘화자음성인식(목소리 식별 기술)’을 활용한 보이스피싱 피해 예방에 나설 예정이다. 화자음성인식은 발화자가 5~10개 문장을 녹음해 목소리를 시스템에 등록하면 AI가 음성의 특징을 분석해 본인을 확인할 수 있는 것이 특징이다. AI가 화자의 목소리를 주파수 대역으로 변환해 음의 높낮이, 속도 등 발화 특성을 딥 러닝 네트워크를 활용해 분석한다. 여기에 기존에 등록된 발화값과 새롭게 들어오는 발화값의 통계 유사성을 비교해 화자의 성별, 연령대 등도 파악할 수 있다. LG유플러스는 향후 인터넷TV(IPTV) 리모컨, 고객센터 등 다양한 환경에 따라 변할 수 있는 화자의 음성 인식률을 높일 방침이다.

이통3사가 보이스피싱 등 통신기반 금융 관련 범죄에 칼을 빼든 데는 그만 한 이유가 있다. 금융감독원이 발표한 ‘2023년 보이스피싱 피해 현황 분석’에 따르면 지난해 보이스피싱 범죄로 인한 총 피해액은 1965억원으로 전년인 1451억원보다 514억원(35.4%) 증가했다. 반면 보이스피싱 범죄 피해자는 1만1503명으로 전년 1만2816명 대비 10.2% 감소했는데 보이스피싱 범죄가 갈수록 진화하면서 1인당 피해 규모가 급증하고 있다는 분석이다.

김건호 기자 scoop3126@segye.com