[이진우의 거리두기]새로운 디지털 성범죄 ‘딥페이크 성착취물’

생성형 인공지능은 우리에게 익숙한 경험과 현실을 이해하는 방식을 근본적으로 바꿔놓고 있다. 이제까지 우리는 세계가 아무리 변화무쌍해도 변하지 않는 진정한 현실이 있다고 생각했다. 어느 시대나 가짜가 있게 마련이지만 그만큼 진짜도 있다는 사실을 의심하지 않았다. 그런데 진짜보다 더 진짜 같은 가짜를 만들어내는 인공지능으로 진짜와 가짜를 구별하기 힘든 새로운 현실이 펼쳐졌다. 진짜만큼 많은 그리고 영향력이 더 큰 가짜가 만연한 세계는 그야말로 ‘페이크 현실’이다. 이런 세상에서는 우리와 현실의 관계가 근본적으로 변화한다. 그것이 쉽게 감지할 수 없는 인공지능의 힘이다.

지금 세상은 ‘딥페이크 성착취물’로 떠들썩하다. 인공지능을 사용하면 성착취물 이미지를 더 쉽게 제작할 수 있고, 이전보다 더 빠르게 퍼뜨릴 수 있다. 딥페이크 성착취물의 제작과 유통 속도는 정말 가공할 만하다. 우리가 인지하고 대처할 수 없을 정도로 빠르다는 뜻이다. ‘딥러닝’과 ‘페이크’의 합성어인 딥페이크는 인공지능 도구를 사용하여 편집 또는 생성된 이미지, 비디오 또는 오디오를 의미한다. 딥페이크는 상상의 존재나 존재하지 않는 사람을 묘사할 수 있는 합성 미디어이다. 공상과학 영화에서 볼 수 있는 것처럼 가짜 콘텐츠를 만드는 행위는 새로운 것은 아니지만 실제 인물을 기반으로 한 딥페이크, 즉 진짜와 가짜의 합성 이미지는 순수한 가짜보다 우리의 현실 감각을 훨씬 더 교란한다.

생성형 인공지능에 기반한 딥페이크가 새로운 범죄에 악용될 수 있다는 것은 이미 경고되었다. 유명인 성착취물 비디오, 아동 성적 착취물, 복수 성착취물, 가짜뉴스, 사기, 괴롭힘 등 딥페이크는 기존의 범죄에 잠재적으로 사용될 수 있다. 여기서 하나의 의문이 제기된다. 딥페이크는 단지 새로운 범죄 수단에 불과한가? 성착취물 딥페이크는 분명 여성을 향한 새로운 디지털 성범죄 무기이다. 만약 그렇다면, 기존의 법적·윤리적 규제를 강화하는 것만으로 디지털 성범죄를 해결할 수 있을 것이다. 아니면, 인공지능 기반 딥페이크 성착취물은 전혀 새로운 종류의 성범죄로서 기존의 성범죄 대처 방식으로는 근본적으로 해결할 수 없는 것인가? 그렇다면 우리는 성범죄처벌법을 강화하는 것과 더불어 딥페이크를 포함한 인공지능 자체를 규제하는 방식을 강구해야 한다.

한국 ‘딥페이크’에 압도적 취약

세계의 그 어느 곳보다 이 두 가지 문제와 질문이 가장 복합적이고 선명하게 드러나는 곳은 바로 대한민국이다. 전 세계 딥페이크 성착취물에 등장하는 인물의 절반 이상이 한국인이라는 해외 보안업체 조사 결과가 나왔다. 한국이 딥페이크 성착취물에 가장 취약한 국가라는 의미로 해석된다. 미국의 사이버보안 업체 ‘시큐리티 히어로’가 최근 공개한 ‘2023 딥페이크 현황’ 보고서에 따르면 딥페이크 성착취물에 등장한 인물 중 53%가 한국 국적이라고 한다. 이 보고서는 지난해 7월부터 8월까지 상위 10개 딥페이크 성착취물 웹사이트와 유튜브, 데일리모션 등에 있는 85개 딥페이크 채널을 분석한 결과이다. 2위 미국(20%), 3위 일본(10%)과 격차가 두드러진다. 불법촬영 영상 이미지뿐만 아니라 딥페이크에서도 한국은 압도적인 성범죄 1위 국가인 셈이다.

챗GPT에 딥페이크 성범죄의 현황과 문제점을 문의하면 한국의 사례가 제일 먼저 등장한다. 왜 우리에게는 이렇게 성범죄가 많이 발생하는 것인가? 한 통계에 따르면 한국에서 2022년 성폭력 발생률은 10만명당 80.5건이었다. 성범죄는 한국에서 시간당 3.4건 발생하고 있으며, 계속해서 증가하고 있다. 물리적 성폭력 비율은 유럽 평균보다 높은 스웨덴 수준이다. 문제는 사이버 성범죄의 경우 한국이 압도적으로 높다는 점이다. 그 때문에 일반적 성범죄 대처방식 외에도 우리는 딥페이크 성착취물을 규제할 새로운 방식을 모색해야 한다.

그렇다면 딥페이크 성착취물은 어떤 점에서 기존의 성범죄와 다른 것인가? 우선 딥페이크 성착취물은 잠재적으로 모든 사람을 대상으로 한다. 강간, 강제추행, 성희롱과 같은 물리적 성폭력은 언제나 특정한 개인을 대상으로 한다. 성폭력 사건이 어쩌다 터지면 ‘어떻게 저런 몹쓸 놈이 있나!’라고 한탄하지만, 성폭력 비율이 높으면 나도 대상이 될 수 있다는 불안과 공포가 확산한다. 그런데 딥페이크 성착취물과 같은 디지털 성폭력은 잠재적으로 모든 사람을 대상으로 할 수 있다. 창문을 잠그고, 으슥한 밤거리와 한적한 곳을 피한다고 예방할 수 있는 것이 아니다. 우리는 버튼 하나만 누르면 성착취물에 등장할 수 있는 현실에 살고 있다. 인터넷은 당신이 누구인지, 무엇을 원하는지 신경 쓰지 않는다. 나의 제자, 친구, 동문과 동료라고 믿을 수도 없다. 당신이 여성이라면 더욱 그렇다. 딥페이크 성착취물은 여성을 향한 21세기의 디지털 성범죄 무기이다.

물론 대중에게 노출된 유명인이 타깃이 된다. 인공지능으로 생성된 허위 성착취물 이미지의 대량 유포가 팝가수 테일러 스위프트에게 문제를 일으켰다. 그녀의 성착취물 딥누드는 텔레그램에서 너무 빨리 확산되었다. 이미지 중 하나는 삭제되기 전에 온라인 서비스 X에서 4700만번 이상 조회되었다고 한다. 미국 언론에 따르면 해당 가짜 사진은 약 17시간 동안 온라인에 게시됐다고 하니 일단 사이버 공간에 게재되면 그 파급 효과는 우리의 상상을 초월한다. 세계에서 가장 부유하고 성공한 여성 중 한 사람의 공개적 굴욕은 이렇게 성적 대상화를 통해 이루어진다. 문제는 그녀가 아무리 막강한 힘을 가지고 있더라도 이러한 이미지 기반 성적 폭력에 대해 할 수 있는 일이 별로 없다는 점이다.

새 규제 가능한 한 빨리 도입해야

둘째, 딥페이크 성착취물은 모든 사람을 대상으로 할 뿐만 아니라 누구나 사용할 수 있다. 유명한 여성의 가짜 성착취물 이미지는 새로운 것이 아니다. 욕망의 대상으로서 스타는 항상 에로틱한 팬아트와 팬픽션의 주제였다. 하지만 이전에는 생산이 이렇게 쉽고, 빠르게 배포된 적은 없었다. 이미지에만 챗GPT처럼 작동하는 ‘Stable Diffusion’과 같은 새로운 딥러닝 모델은 초현실적인 가짜 이미지를 즉시 생성한다. 공개적으로 액세스할 수 있는 앱을 사용하면 디지털 방식으로 옷을 벗길 수 있다. 이는 인공지능이 마치 현실처럼 옷을 입고 있는 사람을 누드로 변환한다는 것을 의미한다. 이런 딥페이크 봇은 다크웹에서 손쉽게 제작할 수 있으며, 딥페이크 봇 접근을 가능케 해주는 사이트 단체방에 들어가면 1달러 내고 1분이면 성착취물을 제작할 수 있다고 한다. 인공지능 시대에는 누구나 개별적으로 딥페이크 성착취물을 만들 수 있고, 누구나 그 대상이 될 수 있다.

셋째, 딥페이크 성착취물이 일단 유포되면 조작된 이미지를 감지하거나 삭제하기가 상당히 어렵다. 일회적인 성폭행도 피해자에게 지울 수 없는 상처를 남기는데, 지울 수 없는 딥페이크 성착취물이 사이버 공간에 떠돌아다닌다면 그 피해는 어떻겠는가. 우리의 몸이 이러한 이미지 기반 성적 폭력에 신체적으로 관련되지 않더라도, 그것은 분명한 폭력이다. 딥페이크 성범죄를 우려한 여성들이 소셜미디어에서 얼굴 사진을 삭제하는 등의 움직임을 호들갑 떤다고 조롱하는 사람은 이미지 자체가 폭력일 수 있다는 새로운 현실을 모른다. 이미지가 가상임에도 불구하고 얼굴과 신체의 이미지를 훔치는 것은 폭력이며 그것을 사용하여 딥페이크 성착취물을 만드는 것은 엄연한 성폭행이다. 설령 그것이 가짜 이미지에 불과하다는 사실을 알지라도 전 세계 수백만명이 인터넷에서 보는 딥페이크 성착취물에 자신이 등장한다는 사실만으로도 자신의 존엄성과 자율성, 프라이버시가 강탈당했다는 느낌을 받을 수밖에 없다.

인공지능은 딥페이크로 새로운 성범죄를 만들고 있다. 조작된 이미지 자체가 돌이킬 수 없을 정도로 인격을 훼손할 수 있다는 점에서 우리는 딥페이크를 탐지하고 예방할 수 있는 새로운 규제를 가능한 한 빨리 도입해야 한다. 한국이 딥페이크 취약국 중 압도적 1위라는 것은 그만큼 인공지능에 대한 접근성이 높다는 것을 의미한다. 진짜와 가짜를 합성한 딥페이크 성착취물은 세계에서 유례없을 정도로 높은 기술 개발성과 젠더 갈등이 결합한 결과이다. 이 복합적 문제를 해결하려면 우리는 딥페이크 취약국 세계 1위에서 딥페이크 합리적 규제 1위의 국가로 발전해야 할 것이다.

이진우 포스텍 명예교수

이진우 포스텍 명예교수