보이스피싱 예방 AI 개발에 통화 데이터 활용 물꼬 트여

피싱 방지 AI 개발 위해 6개 기관 협력
실제 통화 데이터 제공…개인정보 보호 함께
첫 기업 사례 SKT "온디바이스 AI 활용"

대표적인 민생금융 범죄 보이스피싱의 피해를 막는 인공지능(AI)·서비스 개발을 위해 6개 정부 부처·기관이 협력한다. 이로써 민간기업은 실제 보이스피싱 통화 데이터를 관련 서비스 개발에 활용할 수 있게 됐다.

3일 과학기술정보통신부, 금융위원회, 개인정보보호위원회, 금융감독원, 국립과학수사연구원, 한국인터넷진흥원(KISA)은 정부서울청사에서 'AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약'을 체결했다고 밝혔다.

이번 협약을 통해 통신사 등 민간기업은 보이스피싱 예방 AI 기술·서비스를 개발 시 관련 통화 데이터를 제공받을 수 있게 됐다.

금감원은 피해자의 신고를 통해 모은 통화 음성데이터를 국과수에 제공, 국과수는 이를 비식별화 등 전처리 과정을 거쳐 민간에 제공한다. 개인정보위와 KISA는 데이터 제공·수집·이용 과정 중 발생할 수 있는 '개인정보 보호법'상 쟁점에 대한 법령해석, 규제개선 방안 등을 검토하고 가명정보 활용 종합컨설팅을 지원한다.

과기정통부, 금융위, 개인정보위는 통신·금융업계와 협력해 보이스피싱 예방 AI 기술과 서비스를 적극적으로 발굴한다. 개인정보위와 서비스 개발 과정에서의 개인정보 법령 준수방안을 마련하고 사업자가 이를 이행한 경우 개인정보보호법상 불이익한 처분을 하지 않는 개인정보위 '사전적정성 검토제'도 활용한다.

아울러 과기정통부, 개인정보위는 정부주도의 보이스피싱 대응 기술개발(R&D) 사업을 기획·추진한다. 과기정통부는 관련 전문가와 구체적인 사업을 기획하고 예산을 지원한다. 개인정보위는 연구 과정 중 '개인정보보호법' 관련 규제 개선사항을 발굴하고 필요시 실증특례도 추진한다.

이러한 부처 간 협업을 바탕으로 SK텔레콤은 보이스피싱 탐지·예방 AI 서비스를 개발한다. 이 서비스는 통화 문맥을 기반으로 보이스피싱 의심 여부를 실시간으로 판별해 본인이나 가족에게 알림을 주는 기능을 포함할 예정이다.

가령 보이스피싱에 사용되는 주요 키워드나 패턴을 탐지하거나 통화 문맥 분석을 통해 수사기관 사칭, 금융거래를 이유로 개인정보를 요구하는 행위 등이 인지되면 의심 통화로 분류한다. AI로 통화 내용을 분석해 보이스피싱을 탐지하게 됨으로써 단순히 의심 회선을 차단하는 것보다 효과적으로 보이스피싱 범죄 수법에 대응할 수 있을 것으로 보인다.

SK텔레콤의 온디바이스 AI 기반 실시간 보이스피싱 탐지 개념도

SKT는 통화 데이터가 서버로 전송되지 않고 단말기 내에서 처리되도록 하는 온디바이스 AI 기술로 개인정보보호도 강화한다는 계획이다. 이를 위해서는 양질의 데이터를 필요로하는 소형 언어 모델(sLM)이 있어야 한다. 이에 국과수는 정보 주체의 권리를 보호하면서 데이터를 제공할 수 있도록 약 2만1000건의 통화데이터를 텍스트로 변환하고, 개인정보위·KISA의 자문을 받아 민감한 정보를 비식별처리해 SKT에 제공하는 방안을 마련했다. 현재 데이터의 가명처리 등이 진행 중이며 6월 중 데이터를 제공할 예정이다.

SKT는 데이터를 받은 후 모델 미세 조정을 통해 성능을 정교화하고 이를 시제품에 담아 검증한 후 서비스를 출시할 예정이다. 향후 데이터를 지속 제공받아 모델 업데이트에 활용한다.

이 외에도 개인정보위는 통신사 등 다수 기업으로부터 보이스피싱 서비스 개발 관련 검토요청을 받았으며, 향후 금융위, 과기정통부 등과 함께 논의할 예정이다.

과기정통부는 2025년 신종 보이스피싱 조기 탐지 기술개발(R&D) 사업을 기획·추진 중이며, 개인정보위와 함께 안전한 데이터 활용 방안을 논의하고 있다.

황서율 기자 chestnut@asiae.co.kr