악랄하게 지인 능욕, 교묘한 선거개입… 글로벌 ‘딥페이크 전쟁’[Who, What, Why]

■ What - 피해 확산방지 총력
스위프트 음란 이미지 퍼지고
“기시다, 美와 갈등” 사진 합성
트럼프, 가짜사진으로 세몰이
워런 버핏 사칭한 투자 사기도
EU, 플랫폼 유해물검열 의무화
영국, 성착취물 제작 형사입건
미국 27개주서 관련법안 제정

게티이미지뱅크

지인의 얼굴에 음란물을 합성해 딥페이크 영상물을 만들고 공유하는 텔레그램 대화방이 국내에서 발견돼 파장이 커지고 있는 가운데 다른 국가들도 딥페이크로 골치를 썩고 있다. 특히 선거의 해를 맞아 잘못되거나 왜곡된 정보를 제공하는 정치적 목적의 딥페이크가 크게 늘면서 관련 규제 마련에 속도를 내고 있다.

◇딥페이크 피해, 연예인부터 대통령까지 예외가 없다 = 딥페이크란 인공지능(AI) 심층 학습을 뜻하는 딥러닝(deep learning)과 가짜(fake)를 합한 단어로 ‘AI로 만든 인공의 인간 이미지 합성물’을 뜻한다. 주의를 기울이면 가짜인 것을 알 수 있지만, 기술발달로 가짜인지조차 판명이 쉽지 않은 상황이 됐다.

올해 초 세계적인 팝스타 테일러 스위프트 얼굴 사진이 합성된 음란한 이미지가 온라인상에서 확산해 팬들의 공분을 일으켰다. 해당 이미지가 유통된 X(옛 트위터)는 해당 메시지를 삭제하는 등 적절한 조치를 했다고 밝혔지만 해당 이미지는 이미 4700만 회나 조회된 후였다. 세계 각국 정상들도 딥페이크 피해에선 예외가 없다. 지난 1월 ‘프라이머리에서 투표하면 11월(대선)에 투표할 수 없다’는 내용을 담은 조 바이든 대통령의 가짜 전화 메시지가 퍼지면서 대선 예비 선거를 앞둔 뉴햄프셔주가 발칵 뒤집혔다. 조사 결과 한 정치 컨설턴트가 생성형 AI로 제작한 목소리로 밝혀졌지만 이미 전화를 받은 상당수는 잘못된 정보를 받아들인 후였다. 2월에는 X에 미국 정부 관계자들이 다리를 꼬고 소파에 앉아 기시다 후미오(岸田文雄) 일본 총리를 노려보는 듯한 사진이 논란이 됐다. 사진 상단에는 “이 한 장이 모든 것을 말해준다”는 설명이 달려 미국과 일본 사이의 갈등을 시사하는 듯한 느낌을 줬다. 해당 사진 원본은 2022년 4월 미국 정부 고위 관계자들이 브라질 외교장관과 만났을 때 찍은 것으로 브라질 외교장관을 기시다 총리로 바꿔놓은 가짜 사진이었다. 이탈리아 역사상 첫 여성 총리인 조르자 멜로니는 자신의 가짜 음란 동영상이 유포되자 민사소송까지 벌이고 있다. 딥페이크를 활용한 사칭으로 기업 및 투자자 피해도 잇따르자, 투자의 귀재로 불리는 워런 버핏은 “나조차도 가짜 나한테 돈을 송금했을 것”이라면서 딥페이크의 위험성을 지적했다.

선거가 과열되면서 딥페이크 논란은 더욱 거세지고 있다. 오는 11월 5일 대선을 앞두고 공화당 대선후보인 도널드 트럼프 전 대통령은 잇따라 AI로 만든 가짜 사진을 SNS에 올려 빈축을 샀다. 여론몰이를 위해 민주당 대선 후보인 카멀라 해리스 부통령이 ‘시카고에서 열린 공산당 행사’에서 연설하는 가짜 사진을 게재하고 미국 내 영향력이 큰 스위프트와 스위프트 팬들이 본인을 지지하는 가짜 사진을 올리며 지지율 확대에 나선 것이다.

도널드 트럼프 전 미국 대통령이 테일러 스위프트가 자신을 지지한다며 올린 가짜 사진. 트루스소셜 캡처

◇규제 나선 세계 각국 = 해외 주요국에선 이미 플랫폼에 법적 의무를 부과하는 규제를 발의하거나 마련해 불법·유해 콘텐츠 차단에 나서고 있다. 특히 서구권에서는 공통적으로 ‘당사자 동의 여부’를 유무죄 판단의 주요 기준으로 삼고 있는 점이 특징이다. 제작, 유포 등 각 과정에서 당사자 동의가 있었는지를 따져보고 동의가 없었다면 위법 행위가 되는 것이다.

올해부터 시행되는 유럽연합(EU)의 ‘디지털서비스법’은 온라인 플랫폼에 대한 유해 콘텐츠 검열 의무를 규정하고 있다. 각 운영사가 불법·유해 콘텐츠를 의무적으로 삭제해야 하고, 위반 시 글로벌 매출의 최대 6%를 과징금으로 부과할 수 있게 했다. 이와 별개로 영국은 4월 온라인안전법을 개정해 당사자 동의 없이 악의적으로 딥페이크 성착취물을 제작한 자는 형사 입건한다. 유포할 의사가 없었다 해도 피해자에게 굴욕감, 경고 또는 고통을 주고자 했다면 이는 위법이다. 유포까지 했다면 두 개 혐의가 적용돼 형량은 가중돼 상한선 없는 무제한 벌금형이나 징역형에 처한다.

프랑스는 플랫폼에 무거운 책임을 지우는 국가 중 한 곳이다. 프랑스는 5월 디지털공간규제법(SREN) 개정을 통해 알고리즘에 의해 생성된 시각 혹은 청각 콘텐츠를 당사자 동의 없이 유포하는 경우 징역 최대 3년에 벌금 최대 7만5000유로(약 1억1000만 원)형에 처해진다. 독일 역시 2017년 ‘네트워크 집행법’을 제정해 플랫폼의 감시·감독 책임을 강화했다. 해당 법에 따르면 SNS 플랫폼에는 가짜뉴스를 포함한 불법 콘텐츠를 신고할 수 있는 시스템이 있어야 하고, 신고가 들어오면 위법성을 판단해 24시간 안에 삭제·차단해야 한다.

미국의 딥페이크 관련 법안은 아직 초읽기 단계다. 주 정부 차원에선 딥페이크 성착취물을 범죄로 규정한 곳이 적지 않지만, 아직 연방법에는 딥페이크 성착취물을 명시하는 조항이 없다. 미 AI 규제 전문기관 ‘멀티스테이트.ai’에 따르면 6월 기준 비동의 딥페이크 성착취물 관련 법안을 제정한 주는 총 27개 주였다. 연방 정부 차원에서는 1월 스위프트의 딥페이크 성착취물 문제가 발생한 직후 리처드 더빈 민주당 상원의원이 발의한 법안이 지난달 23일 상원을 통과해 하원에서 계류 중이다. 해당 법안은 딥페이크 기술 등을 활용한 성착취물을 ‘디지털 위조물’로 정의하며 그 피해자에 대한 구제안을 담고 있다. 동의 없이 디지털 위조물을 제작·소지·유포 당한 피해자는 연방법원에 최소 15만∼25만 달러(약 2억∼3억3400만 원) 상당 손해배상을 청구하는 민사소송을 제기할 수 있다. 반면 중국과 일본은 딥페이크 성착취물을 규제하는 법이 없어 형법으로 대신 처벌하고 있다.

황혜진 기자 best@munhwa.com