[단독]AI안전연구소-카카오, 실시간 딥페이크 탐지 기술 개발한다

대선 관련 주요 딥페이크 조작 영상 사례. 동아일보 DB

지난해 설립된 정부 산하 AI안전연구소가 카카오와 손잡고 실시간 딥페이크(인공지능 합성 이미지) 탐지 기술 개발에 착수했다. 선거관리위원회를 비롯한 정부 부처, 공공기관, 민간에 오픈소스로 배포해 각종 딥페이크 영상 범죄 피해를 줄이겠단 것이다.

14일 IT업계에 따르면 과학기술정보통신부 산하 AI안전연구소는 카카오와 협업해 딥페이크 탐지 기술 고도화 프로젝트를 진행 중이다. 딥페이크로 만든 영상 속 사람이 웃을 때의 입 모양이나 귀의 움직임, 눈 깜빡임과 같은 얼굴과 신체 움직임이 부자연스럽고, 배경 화면이 연속적이지 않은 부분, 물이 흐르는 방향과 그림자 방향 등과 같은 물리적 법칙에 어긋나는 부분들을 실시간으로 탐지하는 기술을 고도화하는 것이다.

특히 딥페이크 생성물을 실시간으로 탐지해 알리는 속도를 빠르게 높이는 것이 핵심이다. 가령 3분 길이의 영상일 경우 최소 영상이 끝나기 전, 즉 3분 내 해당 영상이 딥페이크인지 아닌지 가려내 ‘딥페이크 콘텐츠’ 라는 알림을 보내 이용자에게 경고를 주는 식이다.

쉽게 말해 앞으로는 이용자가 자신이 받은 SNS 메시지 속 영상을 재생했을 때 적어도 그 영상이 끝나기 전에 해당 영상이 딥페이크 생성물이란 사실을 알려주는 것이다. 어느 부분이 조작된 장면인지를 시각적으로 보여주는 방식도 개발 중이다.

AI안전연구소 관계자는 “딥페이크 영상을 보면 기존 뉴스 등을 원본으로 해서 만드는 경우가 많기 때문에 저희가 자체적으로 뉴스 등의 원본 데이터 등을 구축해 딥페이크로 추정되는 생성물이 발견됐을 때 해당 원본 데이터를 빠르게 찾아내려 한다”고 말했다.

연구소는 기술 개발이 완료되면 카카오 플랫폼인 포털 다음(DAUM)과 카카오TV 등에서 검증 테스트를 거쳐 민관이 각 분야에 맞게 활용할 수 있도록 공개할 계획이다. 연구소 관계자는 “향후 실증을 거쳐 선관위, 경찰 등 정부 기관 뿐 아니라 민간에도 오픈소스 형태로 배포할 예정”이라고 했다.

제21대 대통령선거가 41일 남은 23일 서울 종로구 와룡동 서울시선거관리위원회에서 사이버공정선거지원단이 대통령선거와 관련한 온라인 모니터링을 하고 있다. 동아일보 DB

한편 선관위와 경찰 등은 최근 전담 모니터링 팀을 구성해 주요 후보자 관련 딥페이크 영상 단속을 벌이고 있다. 하지만 딥페이크 영상 확산이 빨라 어려움을 겪고 있는 것으로 전해졌다.

지난해 개정된 공직선거법에 따르면 선거 90일 전부터 선거운동 관련 딥페이크 영상은 일절 금지된다. 선거운동에 해당하지 않더라도 후보자의 명예가 훼손됐다면 정보통신망법에 의해 처벌된다. 음란물에 합성한 경우 성폭력처벌법 위반으로 7년 이하 징역 또는 5000만 원 이하 벌금에 처해질 수 있다.

장은지 기자 jej@donga.com