"尹 양심고백 연설"도 등장…10분이면 된다, 딥페이크 쇼크

일러스트 챗GPT

■ 추천! 더중플 -AI의 위협

「 나날이 발전하는 생성형 AI 기술은 가짜뉴스를 더욱 진짜처럼 보이게 만듭니다. 얼굴 이미지에 음란물을 합성한 딥페이크 영상물이 대거 유포된 사실이 밝혀지면서 딥페이크 공포가 확산하고 있습니다. 미국 보안업체는 딥페이크 성착취물에 등장하는 인물의 절반이 한국인 가수라는 보고서를 내기도 했습니다. 누구든 손쉽게 딥페이크 성착취물을 만들 수 있는 시대. 생활 속으로 들어온 AI가 남긴 짙은 그림자입니다. 오늘의 '추천! 더중플'은 'AI의 위협'과 관련한 이야기를 모았습니다.
'The JoongAng Plus(더중앙플러스)'는 지혜롭고 지적인 독자들을 위해 중앙일보의 역량을 모아 마련한 지식 구독 서비스입니다. 더 자세한 내용은 더중앙플러스 구독 후 보실 수 있습니다.
」

━

사이버 렉카 불장난에 기름 부은 AI

유튜브에 올라온 가짜뉴스. 사진 유튜브 섬네일 캡처

지난해 봄, 트로트 가수 김호중과 송가인의 결혼설이 퍼졌다. 한 유튜브 채널에서 결혼설을 터뜨리자 순식간에 200만 조회수가 넘었다. 다른 채널에서도 같은 내용을 퍼나르며 둘의 결혼설에 불을 붙였다. 전형적인 '가짜 뉴스'다.

구독자를 낚아 돈을 버는 '사이버 렉카'들이 판을 치면서 명백한 거짓 정보가 마치 사실인양 각종 SNS와 커뮤니티 등에서 퍼져나가는 시대다. 대중이 잘 아는 연예인이 관련되면 눈길을 끌기 좋기 때문에 피해 사례도 가장 많다. 뜬금없는 이혼설에 시달린 연예인 부부만 해도 최수종·하희라, 현빈·손예진, 백종원·소유진, 이무송·노사연, 이상순·이효리, 도경완·장윤정, 고우림·김연아, 태양·민효린 등이 있고 대만에선 구준엽·서희원(徐熙媛·배우 쉬시위안)이 가짜뉴스의 표적이 됐다. 멀쩡히 살아있는 사람을 죽었다고 속이는 일도 있었다. 배우 서이숙 등의 사망설을 유포한 20대 남성은 2022년 창원지법 형사재판에서 벌금 300만원을 선고받았다.

가짜뉴스를 통해 얻는 이익은 크게 권력, 돈, 관심으로 볼 수 있다. 온라인에 올린 가짜뉴스는 얼마나 높은 조회수를 기록했느냐에 따라 이 세 가지를 동시에 충족할 수 있는 수단이 된다. 유튜브를 예로 들면 구독자 수는 권력이 되고, ‘좋아요’로 관심을 얻으며 조회수로 돈까지 벌 수 있다. 네이버 블로그, 다음 브런치, 틱톡, 페이스북, 인스타그램, 카카오톡 오픈채팅 등의 게시물 모두 이와 비슷하게 운영되고 있다. 문제는 유입을 위해 허위로 만들어 낸 키워드는 수년간 끈질긴 생명력을 보이면서 당사자들을 괴롭힌다는 점이다. 가짜뉴스 제작자들이 이들을 소재로 착취한다고 봐도 무방하다.

※더 자세한 내용은 더중앙플러스 구독 후 보실 수 있습니다. url을 복사해 주소창에 붙여넣으세요.
▶김호중·송가인 결혼한다고? 유튜브 퍼진 ‘연예인 착취물’
https://www.joongang.co.kr/article/25152384

━

10초짜리 음성만 있어도 가짜 목소리 만든다

윤석열 대통령 모습이 등장하는 가짜 영상. 사진 틱톡 캡처

컴퓨팅 기술이 좋아지면서 이제 단 10초 길이의 음성만 있으면 그 사람의 목소리를 딥페이크로 만들어낼 수 있다. 보이스피싱이나 음란물 등의 범죄에 활용되기 쉬운 환경이다. 딥페이크가 성범죄에 활용되는 걸 막기 위한 징벌 장치는 있다. 3년여 전 성폭력처벌법을 개정하면서 딥페이크 관련 처벌 조항을 넣은 것이다. 그러나 김명주 서울여대 정보보호학과 교수는 "실제로 처벌된 사례의 절반 정도는 집행유예로 풀려났다"고 지적한다.
▶尹 목소리 지금 들어보세요…정치 ‘딥페이크’ 초비상
https://www.joongang.co.kr/article/25229408

━

10분이면 된다, 한동훈·이재명 가짜 영상

실제로 딥페이크 영상을 만드는 데 얼마나 걸릴까. 앱 마켓에서 ‘딥페이크’를 검색하고 이를 제작하는 앱 하나를 다운로드한 뒤 템플릿에 한동훈 국민의힘 비상대책위원장과 이재명 민주당 더불어민주당 대표 얼굴 사진을 찾아 넣었더니 곧바로 딥페이크 영상이 완성됐다. 딥페이크 앱에 익숙지 않은 사람이 해도 10분이 채 걸리지 않았다. 누구든 딥페이크를 만들 수 있고, 나도 모르게 딥페이크 유포자가 될 수도 있다. 눈으로 보면서도 의심해야 하는 시대다.
▶이거 보면 의심하라, 딥페이크 알아채는 법
https://www.joongang.co.kr/article/25237670

■ 추천! 더중플 - AI의 위협

「 ※URL을 복사해 주소창에 붙여넣으세요. 기사 전문은 더 중앙플러스 구독 후 보실 수 있습니다.

이거 보이면 의심하라, 딥페이크 영상 알아채는 법
https://www.joongang.co.kr/article/25237670

“킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고
https://www.joongang.co.kr/article/25260922

김호중·송가인 결혼한다고? 유튜브 퍼진 ‘연예인 착취물’
https://www.joongang.co.kr/article/25152384

기후 위기서 인류 구할 AI…‘더러운 비밀’ 숨어 있었다
https://www.joongang.co.kr/article/25201573
」

정리=이경희 기자 dungle@joongang.co.kr