딥페이크 꼼짝마…경찰청, 독일경찰과 판별시스템 공동개발

경찰청 첫 국제공동연구 사례
올해부터 2027년까지 연구

생성형 인공지능(AI) 활용이 확산하면서 가짜 뉴스와 조작 영상 등 허위 콘텐츠가 급증하자 한국과 독일 경찰이 공동 대응에 나섰다.

26일 경찰청은 독일 노르트라인베스트팔렌주 경찰과 함께 ‘허위조작 콘텐츠 진위여부 판별 시스템’ 개발에 착수했다고 밝혔다.

이번 사업은 한국과 독일 간 과학치안 분야 첫 국제 공동연구 사례다. 딥페이크(AI로 만든 조작 영상·사진), 딥보이스(AI로 합성한 목소리), 가짜뉴스 등 허위 콘텐츠를 탐지하기 위한 데이터셋(분석용 자료 모음)을 구축하고, 오는 2027년까지 통합 판별 시스템을 개발하는 것이 목표다.

올해 초 공모·평가 절차를 거쳐 주관연구기관으로 숭실대가 선정됐고, 성균관대·연세대·한컴위드가 참여하는 연합체가 국내 연구기관으로 선정됐다. 독일에서는 노르트라인베스트팔렌주 범죄수사청의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈대가 공동 연구기관으로 선정됐다.

연구 첫해인 올해에는 허위 콘텐츠 탐지를 위한 데이터셋을 구축하고, 탐지모델 고도화를 추진한다. 내년부터는 머신러닝 모델 개발부터 배포·운영까지 전 과정을 자동화해 관리하는 통합 탐지시스템의 성능 고도화·실증 테스트를 진행한다.

이날 오전 서울 서대문구 경찰청에서 열린 착수 보고회에는 최주원 경찰청 미래치안정책국장, 최귀원 과학치안진흥센터 소장, 토비아스 마이젠 독일 부퍼탈대 교수 등이 참석했다.

최주원 국장은 “단순 협력을 넘어 미래치안 위협에 양국 역량을 결집한 공동 대응”이라며 “다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시하길 기대한다”고 말했다.