"우린 무능·부패"…대통령 딥페이크까지

'尹 양심고백' 가짜영상
틱톡·메타 등 SNS서 확산
경찰, 방심위에 차단 요청
위법 딥페이크 129건 적발
"선거철 유포땐 심각한 문제"

최근 사회관계망서비스(SNS)에서 확산된 윤석열 대통령 딥페이크 영상의 한 장면. 틱톡 캡처

총선을 앞두고 인공지능(AI)을 활용한 가짜뉴스가 봇물을 이루는 가운데 급기야 현직 대통령을 대상으로 한 딥페이크 영상까지 등장했다.

22일 서울경찰청은 최근 방송통신심의위원회에 공문을 보내 틱톡과 페이스북 등 사회관계망서비스(SNS)에 올라온 '가상으로 꾸며본 윤석열 대통령 양심 고백 연설' 딥페이크 게시글에 대해 삭제를 요청했다. 딥페이크는 AI를 활용해 특정 인물의 모습, 음성 등에 가짜뉴스를 입혀 조작한 영상물을 가리킨다.

AI를 활용해 만든 46초짜리 영상은 윤 대통령이 "국민을 괴롭히는 법을 집행해온 사람이다" "상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다"고 말하는 장면을 담고 있다. 물론 100% 조작된 영상이다. 윤 대통령 관련 딥페이크 영상이 유포된 것은 이번이 처음은 아니다. 앞서 2022년에도 지방선거를 앞두고 윤 대통령이 당시 박영일 남해군수 후보(국민의힘)를 지지하는 뜻을 밝히는 가짜 영상이 SNS를 통해 확산된 바 있다.

방심위는 총선이 임박한 만큼 이번 영상을 윤 대통령과 관련된 최초의 딥페이크 영상으로 규정하고 발 빠르게 조치에 나선 것으로 파악됐다. 이에 따라 23일 긴급 통신심의소위원회를 열어 해당 안건을 심의한 후 삭제·차단 조치를 할 예정이다.

서울경찰청 관계자는 "고발이 접수된 이후 동일한 인터넷주소(URL)를 통해 틱톡, 인스타그램, 페이스북 사이트 계정을 사용하는 회원이 해당 영상 등을 게시한 것으로 확인돼 차단과 삭제 요청을 하게 됐다"고 설명했다.

여야는 선거 전 90일 동안 딥페이크 선거운동을 금지하는 공직선거법 개정안을 지난해 12월 국회 본회의에서 통과시킨 바 있다. 이에 따라 딥페이크 등을 활용한 선거운동은 지난달 29일부터 금지됐다. 그럼에도 여전히 조작 영상들이 판치고 있다. 중앙선거관리위원회에 따르면 지난달 29일부터 이달 16일까지 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물은 129건에 이른다.

최근 세계적으로 딥페이크 기술과 결합한 가짜뉴스가 여론 조작에 활용되면서 민주주의 질서를 해치는 주범으로 떠오르고 있다. 선거에 영향을 미치는 것은 물론 국가 안보까지 위협한다는 경고가 나온다.

실제로 지난달 미국 뉴햄프셔주에서 치러진 민주당 프라이머리(예비선거)를 하루 앞두고 조 바이든 미국 대통령의 가짜 AI 목소리가 투표 거부를 독려하는 일이 발생한 바 있다.

딥페이크 영상은 전파 속도가 빠르고 사실 여부를 쉽게 판단하기 어렵다는 점에서 철저한 대비책 마련이 필요하다는 지적이 나온다. 김명주 서울여대 정보보호학과 교수는 "딥페이크 등이 정치에 이용되면 중도층을 중심으로 실제 여론을 바꿀 수 있는 도화선이 된다"고 말했다. 선관위는 주요 포털 사이트, AI 플랫폼 등과 협조해 위법성이 의심되는 콘텐츠를 삭제하고 삭제 요청에 불응할 경우 과태료를 부과할 방침이다.

[김정범 기자]