[ITRC인재양성대전2024] 숭실대, 딥페이크 음성탐지 전시

딥페이크 탐지기술 시연

과학기술정보통신부가 주최하고 정보통신기획평가원(IITP)과 대학정보통신연구센터협의회가 공동 주관하는 'ITRC 인재양성대전 2024'이 이달 17일부터 19일까지 서울 코엑스에서 열린다. 올해 '글로벌 디지철 혁신, 미래를 향한 도전'이라는 주제로 대학ICT연구센터(ITRC) 24개 대학 40개 연구센터, ICT명품인재양성 2개 대학 2개 연구소, 지역지능화 혁신인재양성 12개 대학 12개 연구센터 총 31개 대학 54개 연구센터가 참여해 주요 연구성과를 선보일 예정이다.

국내 최대 정보통신기술(ICT) 전시회인 '월드IT쇼(WIS) 2024', '2024 ICT 기술사업화 페스티벌'과 동시개최돼 시너지를 극대화한다. 참가하는 주요대학을 7회에 걸쳐 소개한다.

숭실대 AI보안연구센터

〈1〉숭실대 AI보안연구센터, 딥페이크 음성탐지 전시

숭실대 AI보안연구센터는 AI를 활용한 사이버 위협 방어기술을 개발하고 있으며, 향후 10년간 증가할 AI 보안관련 전문 연구 인력양성을 목표로 한다.

AI 기술이 발전하면서 많은 서비스들이 혁신적으로 개선되고 있지만, 사람들이 AI를 악용하는 사례도 증가하고 있다. 최근 해외 선거에서 딥페이크가 악용되면서 이번 국회의원 선거에서 딥페이크가 악용될 우려로 인해 공직선거법(제82조의8)은 '딥페이크영상 등 제작·편집·유포·상영 또는 게시하는 행위'를 금지했다.

최근 미국 대선 관련 조 바이든 딥페이크 전화에서도 가짜 바이든이 시민들에게 전화 걸어 경선 투표를 방해하는 사건들이 발생하고 있다. 영상에 포함된 음성뿐만 아니라 음성만 존재하는 녹취록, 통화 음성 등에서 음성의 변조 유무를 판별하는 것은 중요하다.

센터가 개발한 딥페이크 음성 탐지 시스템은 변조된 음성과 사람의 실제 음성의 특징을 딥러닝을 통해 비교함으로써 차이를 판별하여 탐지한다. 이를 통해 보이스 피싱이나 가짜 뉴스 영상의 가짜 음성 및 변조 녹취록 등의 변조 음성을 탐지하여 피해를 예방할 수 있다. 센터는 이러한 딥페이크 음성 탐지를 기술을 고도화하여 다양한 환경과 공격에 강한 탐지기술을 개발하고 있다.

센터는 이번 전시에서 음성 합성 서비스를 통해 얼마나 쉽게 딥페이크 음성을 만들 수 있는지를 보여준다. 또, PC 웹과 스마트폰 앱기반의 딥페이크 음성 탐지 시스템을 전시하고 딥페이크 음성 탐지 게임을 통해 사람의 귀로 딥페이크 음성 구분이 어려워 위험성이 크다는 것을 홍보할 예정이다.

본 과제는 과학기술정보통신부, 정보통신기획평가원(IITP)의 지원을 받아 수행되고 있다.

박지성 기자 jisung@etnews.com