'가짜 정치인' 영상 판치는 빅테크 …"내려달라" 요청에도 뒷짐

불법정보 처벌 실효성 논란
가짜 尹, 틱톡서 "야, 재명아"
AI 합성영상 20만건 재생
방통위 시정명령 내려도
차단 등 처리 권한 美본사에
삭제 땐 사유재산 침해 핑계

정부가 가짜뉴스 대응에 팔을 걷어붙인 까닭은 빅테크 기업의 협조가 미온적이라는 판단 때문이다. 현재도 가짜뉴스 방지 대책이 없는 것은 아니다. 방송통신심의위원회는 가짜뉴스 의심 사례를 신고 받고 있다. 만약 가짜뉴스라고 판단하면 신속심의를 열고 플랫폼 기업에 자율적으로 내려줄 것을 요청한다. 이후 플랫폼 기업이 방심위 요구에 응하지 않으면 방송통신위원회가 시정 명령을 내린다. 처벌 규정도 있다. 현행 정보통신망법에 따르면, 불법 정보를 유통하다 적발될 경우 방통위는 해당 사업자를 대상으로 시정명령을 내릴 수 있다. 만약 해당 기업이 요청에 불응할 경우 징역 2년 이하 또는 2000만원 이하 벌금을 부과할 수 있다.

하지만 빅테크 기업은 이러한 규정에도 가짜뉴스를 차단하는 데 속도를 내기 어렵다. 해당 콘텐츠에 대한 심의가 한국 지사가 아닌 해외 본사에서 이뤄지고 있는 데다, 전 세계적으로 가짜뉴스가 워낙 많다 보니 대응에 시간이 걸리기 때문이다. 정보기술(IT) 업계 관계자는 "태스크포스(TF)에서는 허위 조작 정보가 많이 유통되는 해외 플랫폼 사업자와 보다 적극적인 공조 관계를 찾을 것"이라면서 "플랫폼 스스로 불법 콘텐츠 정화에 나서는 자율규제 활동을 지원하는 동시에, 시정요구에 응하지 않을 경우 적절한 규제 수단을 마련해 제재하는 방안을 함께 모색할 것으로 보인다"고 말했다. 선거를 앞두고 한시적으로라도 민·관 공조가 더 절실하다는 메시지다.

오늘날 글로벌 SNS는 가짜뉴스가 유통되는 주된 창구가 되고 있다.

예를 들어 한 틱톡 채널은 지난해 6월부터 정치인 이미지를 인공지능(AI)으로 조작한 딥페이크 영상을 주기적으로 올리고 있다. 영상 속 인물은 눈도 깜빡이고 고개도 움직이며 자연스럽게 말한다. 유력 정치인의 표정과 음성 등을 딥러닝한 후 동영상에 프레임 단위로 합성한 것이다. 이 계정은 윤석열 대통령이 '야 재명아'라고 말하는 영상을 업로드해 재생건수 20만건을 기록하기도 했다. 이재명 더불어민주당 대표가 앞서 "구속영장 청구하면 검찰에 직접 출석해 조사받을 것"이라고 한 발언을 두고, 가짜 윤 대통령을 앞세워 '야 재명아' '너' '짠하더라'와 같은 단어를 사용해 조롱하는 내용이다.

또 한 틱톡 계정은 "저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다"는 내용을 업로드해 물의를 빚었다. 매일경제가 딥브레인AI에 '해당 영상이 AI를 활용한 딥페이크 조작인지를 문의'한 결과 AI 조작이 아닌 교묘한 짜깁기인 것으로 판정됐다. 딥브레인AI는 "해당 영상은 윤 대통령이 후보 시절에 찍은 영상과 음성을 악의적으로 짜깁기했다"고 말했다.

문제는 이런 영상이 가짜뉴스와 풍자인 '밈(Meme)'의 경계를 오간다는 점이다. 한 SNS 계정은 이재명 대표가 '고양이송'을 부르는 영상을 업로드했다. 중국 유명 SNS 스타 펑티모가 고양이송을 부르는 영상에 AI로 학습한 이 대표의 이목구비를 합성한 것이다.

이런 정치인 조작 이미지·영상은 전 세계적으로도 난무하고 있다. 미국 공화당원 선거 전략가인 패트릭 루피니는 이달 "2024년 공화당의 승리는 공화당의 능력에 달려 있다"는 메시지와 함께, 흑인 당원이 서명에 동참하는 사진을 X(옛 트위터)에 올렸다. 하지만 해당 이미지는 AI로 만든 딥페이크로 확인됐다. 정치인뿐 아니다. 페이스북에서는 얼마 전 이부진 호텔신라 사장을 사칭한 투자 광고가 등장했다.

하지만 이를 차단하는 데는 상당한 시간이 걸린다. 구글은 게시 중단 요청→반론 통지 권한 부여→법적 조치 증거 제공→동영상 삭제 또는 복구 등 저작권 보호 절차를 두고 있다. 한 빅테크 관계자는 "섣불리 콘텐츠를 삭제할 경우 사유재산 침해에 해당할 수 있고 자칫하면 소송에 직면할 수 있다"면서 "이 때문에 특정 사례에서는 법원 서류 등이 필요하다"고 설명했다. 일부 기업은 빌딩 안내판에 지사가 몇 층에 있는지 알리지 않고 있을 정도다.

상황이 이렇다 보니 인터넷에 가짜뉴스는 늘고 있다. 한국 정부가 구글에 요청한 콘텐츠 삭제 건수는 2020년 상반기 3만1754건에서 2023년 상반기 4만9735건으로 증가했다.

[이상덕 기자 / 김대기 기자 / 이주영 기자]