“다 보고 있다” 선관위는 지금 AI 딥페이크와 전쟁중

AI 딥페이크 모니터링 전담 요원들이 지난 6일 오전 경기 과천 중앙선거관리위원호 3층 사이버조사과 지원단실에서 유튜브 등 영상 플랫폼에 올라와있는 영상이 AI 딥페이크와 관련이 있는지 점검하고 있다. 백재연 기자

지난 6일 오전 경기도 과천 중앙선거관리위원회 3층 사이버조사과 지원단실. 직원 7명이 모니터를 뚫어지게 쳐다보고 있었다. ‘허위사실 비방 AI(인공지능) 딥페이크 특별대응 모니터링반’ 전담 요원들이다.

이들은 유튜브와 같은 영상 플랫폼부터 유명 포털 사이트, 트위터·페이스북 등을 모니터링하고 있었다. AI 딥페이크 작업물을 찾아내기 위해서다. 독서실처럼 조용한 사무실에선 마우스 휠을 빠르게 굴리거나 클릭하는 소리만이 반복되고 있었다. 선관위는 지난달 11일부터 AI 모니터링 전담 요원과 AI 전문가로 구성된 총 62명의 감별반을 꾸려 상시 모니터링을 벌이고 있다.

지난달 29일부터 AI 기반 딥페이크를 활용한 선거운동이 전면 금지됐다. 공직선거법 개정에 따라 선거 90일 전부터는 선거운동을 위해 AI 기술 등을 활용해 실제와 구분이 어렵게 만든 가상의 작업물을 올려선 안 된다. 이런 작업물이 적발될 경우 선관위는 삭제 요청 등의 조치를 할 수 있다. 작업물이 충분히 악의적이거나 조직적 정황이 있다면 수사기관에 고발조치도 가능하다.

선관위에 따르면 딥페이크 활용 선거운동이 전면 금지된 지난달 29일부터 현재까지 적발된 영상 가운데 정치인 A씨가 상대 진영에 있는 다른 정치인에게 부정적인 말을 하는 동영상 등이 포함된 것으로 알려졌다. 정치인 B씨가 자신을 조롱하는 말을 하는 딥페이크 영상도 적발됐다.

국민일보 DB

선관위 직원들은 총 3단계의 과정으로 AI 딥페이크를 모니터링한다. 우선 선관위에서 구축한 AI 기반 ‘지능형 사이버 선거범죄 대응 시스템’을 이용해 온라인상에서 선거범죄 가능성이 있는 정치 관련 게시물 등을 자동으로 수집한다. 시스템이 잡아내지 못하는 게시글은 요원들이 직접 특정 단어나 논쟁거리를 직접 검색해 식별한다. 요원 1명이 하루에 모니터링하는 게시물은 약 300건에 달한다는 게 선관위의 설명이다.

요원들이 1단계에서 수집한 여러 게시물 가운데 AI 딥페이크 작업물을 골라내는 것이 2단계다. 선관위 직원들은 수집된 게시물이 딥페이크가 맞는지 확인하는 범용 프로그램을 활용하고 있다. 해당 프로그램을 통해 딥페이크일 확률이 높게 나타나는 영상에 대해 선관위는 삭제 요청을 할 수 있다. 만일 범용 프로그램으로도 알아보기 어려울 만큼의 정교한 딥페이크일 경우 학계 교수 등으로 이루어진 전문 자문위원에게 묻는 3단계 작업이 이뤄진다. 다만 선관위는 아직 3단계까지 거친 영상은 없다는 입장이다.

선관위가 3단계에 걸쳐 딥페이크 선별 작업을 벌이고 있지만, 여전히 한계도 있다. 딥페이크 감별은 기존에 알려진 유형에 대해서만 탐지할 수 있기 때문이다. 새로운 유형의 딥페이크 기술이 개발되면 기존 탐지 프로그램으로 대응하기 어렵다. 선관위 관계자는 “딥페이크가 선거에 영향을 주지 않도록 최선을 다해 대응할 생각이지만, 유권자분들도 선거 정보를 접할 때는 팩트 여부에 대해 한 번 더 검증해보시길 당부드린다”고 말했다.

과천=백재연 기자 energy@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지