딥페이크 판치는 소셜미디어...음란물도 날로 증가

지난 3월 유포된 트럼프 전 대통령이 수갑차고 경찰에 연행되는 가짜사진

인공지능(AI)으로 이미지나 영상, 음성을 합성하는 ‘딥페이크’가 최근 소셜미디어(SNS)에서 빠른 속도로 유포되며 심각한 사회문제가 되고 있다. 과거에는 조악한 수준의 결과물이 많았지만, AI 기술이 발전하며 원본과 구분이 어려운 거짓 콘텐츠가 빠른 속도로 생성되고 있다.

최근 틱톡에는 버락 오바마 전 미국 대통령의 음성이 퍼졌다. 자신의 전 요리사가 사망한 것에 본인이 연루됐다는 음모론을 “의심의 근거를 이해할 수 없다”며 변호하는 내용이다. 하지만 이는 실제 오바마의 음성이 아니라 AI로 합성된 딥페이크다. 미국의 가짜 뉴스 모니터링 단체 ‘뉴스가드’에 따르면, 지난 9월 틱톡에서 이 같은 AI 소프트웨어를 사용해 딥페이크를 생성하는 17개 계정은 3억3600만회 조회 수와 약 1450만개 ‘좋아요’를 얻었다.

국내에서도 딥페이크 영상은 높은 조회 수를 기록하며 퍼졌다. 지난 6월에는 파리 생제르맹(PSG) 소속 축구선수 킬리안 음바페(25)의 거짓 인터뷰 영상이 조회수 1100만회를 넘겼다. 이 영상은 일본 기자가 당시 PSG 이적설이 돌던 이강인(22)을 평가절하하는 질문을 하자 음바페가 반박하는 내용이었다. 하지만 이는 음바페가 2021년 ‘유로 2020′ 기자회견에 참석해 답변한 영상 앞부분에 일본 기자 음성을 만들어 넣은 가짜 영상이었다.

딥페이크 기술을 이용한 음란물도 날로 늘어나고 있다. 유명 연예인뿐 아니라 일반인의 영상·사진을 음란물에 합성해 판매하는 식이다. 민형배 더불어민주당 의원이 방송통신심의위원회에서 제출받은 자료에 따르면, 성적 허위 영상 정보에 대한 심의 건수는 2020년 473건, 2021년 1913건, 2022년 3574건으로 급증했고 올해는 8월까지 3046건에 이른다. 하지만 이 기간 삭제된 영상은 410건에 불과하다. 해당 영상을 제공하는 사이트들이 서버를 해외에 두고 있기 때문에 단속이 쉽지 않다.

정부는 딥페이크, 가짜 뉴스 등 AI가 생성한 콘텐츠로 생길 수 있는 부작용을 최소화하기 위해 AI 생성물에 대한 ‘워터마크 도입 제도화’를 추진한다는 계획이지만 실효성은 자신하지 못하고 있다.