클릭 몇번에 찾아낸 '딥페이크봇' 음란물 합성까지 1분 남짓

성인인증 절차 따로 없는데다
1회 체험용 무료 포인트 지급도
버젓이 광고 등 사실상 범죄 유도
합성물 단순 구매는 처벌 못해

1일 파이낸셜뉴스에서 음란물을 연상시키는 단어와 'AI'를 조합해 X(옛 트위터)와 텔레그램 등에 검색하자 수십개의 딥페이크봇 채널을 찾을 수 있었다. 사진=노유정 기자

"지금 바로 좋아하는 여자의 사진을 보내 시작해 봅시다."

사회관계망서비스(SNS)에서 '딥페이크봇'을 검색하자, 이같은 문구의 채널들이 나타났다. 딥페이크는 인공지능(AI)을 이용한 이미지 합성 기술이다. '봇'은 로봇의 줄임말로 알고리즘에 의해 단순 작업은 자동으로 처리해 주는 프로그램이다. 따라서 AI을 이용해 이미지를 자동으로 합성, 음란물을 만드는 곳이 '딥페이크봇 채널'이라고 할 수 있다. 이들 채널은 좋아하는 여자의 사진을 음란물로 합성할 것을 광고하며 사실상의 성범죄를 유도하는 분위기였다.

SNS상에서 딥페이크봇 채널은 접하기 쉬운 것은 물론이고 이를 이용하면 1분여만에 음란물을 만들 수 있었다. 문제는 현행법상 퍼뜨리려는 목적이 아닌 단순 구매·소지로는 처벌이 불가능하다는 점이다.

■클릭 몇 번·1분이면 줄줄이 검색, 딥페이크봇

1일 파이낸셜뉴스에서 음란물을 연상시키는 단어와 'AI'를 조합해 X(옛 트위터)와 텔레그램 등에 검색하자 수십개의 딥페이크봇 채널을 찾을 수 있었다. 특히 한 채널에 들어가면 유사한 여러 채널이 줄줄이 추천되면서 다른 딥페이크봇 채널을 찾는 것도 쉬웠다.

딥페이크봇 채널에 들어갈 때 '18세 이상 성인이어야 한다'는 문구가 존재는 했다. 그렇지만 성인인증 등의 절차는 따로 없어 의미가 없는 문구였다.

또 다른 채널에 접속하자 "우리는 궁극적인 리얼리즘을 추구하는 이미지 처리 봇이다. 사진을 봇에게 보내라"라는 메시지를 볼 수 있었다. 처리하고 싶은 사진을 보내면 1분 만에 음란물로 합성된 이미지를 주겠다는 설명도 붙는다.

딥페이크봇 채널은 대부분 유료였다. 합성물을 만드는 데 포인트가 필요했고 돈으로 포인트를 구매할 수 있다고 안내했다. 채널에 사진을 보내자 뿌옇게 처리된 합성물을 보여주며 고품질 이미지로 내려받으려면 결제하라고 유도했다.

채널 중에는 1회 체험용으로 무료 포인트를 지급하는 곳도 다수였다. 무료 체험을 제공하는 채널 여러 곳을 이용한다면 무제한으로 무료 합성물을 만들 수 있다는 의미다. 친구를 초대할 때마다 포인트를 주는 곳도 있어 구조적인 딥페이크 성범죄 확산이 걱정됐다.

이어 사진을 업로드하자 어떤 것을 합성할지 선택지가 주어졌다. '벌거벗기기', '비키니 입히기' 등 성범죄로 볼 수 있는 문구다. 선택지에 따라 가격까지 달랐다. 원본 사진에 이런 선택지를 적용하는 데 걸리는 시간은 고작 1분 정도였다. 클릭 몇 번과 짧은 시간에 성범죄로 여겨지는 작업이 마무리된 것이다.

■단순 구매·소지는 처벌 불가 '입법 공백'

기술의 발달로 사실상 성범죄와 동일한 행태가 SNS상에서 벌어지고 있지만 현실 공간에서는 처벌이 불가능할 수 있다.

성폭력범죄의 처벌 등에 관한 특례법 제14조의2는 '반포'(세상에 널리 퍼뜨려 모두 알게 함) 등을 할 목적으로 대상자의 의사에 반해 영상 또는 음성물을 편집·합성한 자에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하는 것으로 규정하고 있다.

그러나 반포하지 않고 합성물을 단순 구매·소지하거나 시청했을 경우는 처벌 내용이 없다. 사실상 입법 공백이다.

김현걸 한국사이버보안협회장은 "딥페이크봇를 운영하며 합성물을 만드는 것만으로는 처벌이 애매하고 근거도 다소 부족하다"며 "범죄임을 인식하면서도 방관했는지 여부, 수익성 여부 등이 쟁점"라고 말했다.

경찰 측에서는 딥페이크봇 채널 링크를 공유하는 행위에 대해 정황에 따라 처벌이 가능하다고 설명했다. 경찰 관계자는 "구체적인 상황을 봐서 경우에 따라 방조 혐의로 의율할 수 있다"고 했다.

yesyj@fnnews.com 노유정 기자