경찰청, 독일 경찰과 ‘딥페이크’ 진위 판별 시스템 개발 나서

서울 서대문구 미근동 경찰청. 권도현 기자

경찰청이 독일 노르트라인베스트팔렌주 경찰과 공동으로 ‘허위조작 콘텐츠 진위여부 판별 시스템’ 개발에 착수했다고 26일 밝혔다.

이날 경찰청에 따르면 허위조작 콘텐츠 판별 시스템 개발은 한국·독일의 과학치안 국제공동연구의 첫 사례다. 조작 콘텐츠를 탐지하기 위한 데이터 세트 구축과 통합시스템 개발을 목표로 2027년까지 3년간 진행된다.

올해 초 공모 및 평가 절차를 거쳐 주관연구기관으로 숭실대가 선정됐고 성균관대, 연세대, 한컴위드가 참여하는 연합체가 국내 연구기관으로 선정됐다.

독일 측에서는 노르트라인베스트팔렌주 범죄수사청의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈 대학이 공동 연구기관으로 선정됐다.

올해에는 생성형 인공지능(AI)을 이용해 만든 조작 영상(딥페이크)과 음성(딥보이스), 가짜뉴스를 탐지하기 위해 필요한 인공지능 학습용 데이터 세트 구축과 탐지모델 고도화를 추진한다. 내년부터는 이 데이터를 기반으로 인공지능이 자체 학습하는 머신러닝 모델의 개발부터 배포·운영까지 과정을 자동화해 관리하는 통합 탐지시스템의 성능 고도화 및 실증 테스트를 진행한다.

이날 오전 서대문구 경찰청에서 열린 착수 보고회에는 최주원 경찰청 미래치안정책국장 등 경찰 관계자들과 한국·독일의 연구진이 참석했다.

최주원 국장은 “단순 협력을 넘어 미래치안 위협에 양국 역량을 결집한 공동 대응”이라며 “다양성에 기반한 데이터 세트와 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시하길 바란다”고 말했다.

전현진 기자 jjin23@kyunghyang.com