1달러 내고 1분이면 음란물 제작… '딥페이크 봇' 만들긴 쉽고 처벌은 어렵다

[텔레그램 초대방 타고 들어가니]
사진 넣고 금세 합성 사진 '뚝딱'
다크웹서 10달러면 봇 제작 가능
봇 제작자·이용자 처벌까진 난항
"배포 목적 없어도 형량 높여야"

휴대폰 화면에 사회관계망서비스(SNS) 텔레그램의 로고가 표시돼 있다. 연합뉴스

"우리는 궁극적인 리얼리즘을 추구하는 이미지 처리 봇(Bot)입니다."

'딥페이크(인공지능 기반 이미지 합성)' 범죄가 심각한 사회문제로 떠오른 가운데 사진을 넣으면 자동으로 음란물을 합성해주는 텔레그램 프로그램인 '딥페이크 봇' 역시 논란이 되고 있다. 짧은 시간에 많은 합성물을 만들 수 있는 데다 제작 자체를 사람이 아닌 프로그램이 실행하는 특성 때문에 처벌에 한계가 있는 탓이다. 경찰은 29일 현재 이용자 22만 명에 달하는 봇 등 약 8개의 봇을 확인해 내사(입건 전 조사)에 착수한 상태지만, 수사가 쉽지 않을 거란 우려가 나온다.

이날 한국일보가 소수에게만 공유되는 초대 링크를 타고 텔레그램 대화방에 입장해 딥페이크 봇 메커니즘을 확인해보니, 예상보다 더 쉽게 합성물을 만들 수 있었다. 딥페이크 봇 접근을 가능케 해주는 단체방에 들어가면 이용 방법이 상세히 제시된다. ①약관에 동의하고 ②사진 합성에 사용되는 포인트인 1크레디트를 받는다. 크레디트는 딥페이크봇에서 사용되는 화폐 단위로 1달러(약 1,300원) 충전에 사진 두 장 정도를 합성할 수 있는 크레디트가 부여돼 가격도 높지 않은 편이다. ③이후 봇과의 개별 채팅방이 열리면 사용자가 원하는 사진을 올리고 ④가격표를 참고해 수영복 등 하나를 고르면 ⑤약 1분 뒤 합성된 나체 사진을 받아볼 수 있다.

초대 링크만 있다면 누구나 음란물을 뚝딱 만들 수 있는 구조인 것이다. 봇을 이용하기 전 '미성년자의 이미지를 업로드하고 처리하는 것을 엄격히 금지한다'는 약관에 동의해야 하지만 허울뿐인 안내에 불과하다. 실제 기자가 인공지능(AI)으로 실존하지 않는 미성년자의 사진을 형성해 등록했지만 걸러내는 장치는 없었다.

제작은 쉽지만 수사·처벌은 어려워

딥페이크 봇은 오픈소스 AI를 활용해 만들어지는 경우가 많은데, 제작과 배포가 손쉬워 피해가 걷잡을 수 없이 커질 수 있다. 최병호 고려대 인공지능연구소 교수는 "시중에 공유되는 오픈소스가 악용돼서 딥페이크 봇이 제작될 가능성이 높다"며 "다크웹에서 음란물을 합성하는 프로그램이 공유되기도 해 제작이 어렵지 않다"고 설명했다. 제작 비용도 저렴하다. 최 교수는 "월정액 1~10달러 수준으로 봇을 만들 수 있을 것"이라고 내다봤다.

반면 수사는 어렵다. 해외에 서버를 두고 있는 텔레그램은 국내 영장의 효력이 미치지 않아 임의 협조를 구하는 게 보통이다. 그러나 회신이 없는 경우가 다수여서, 대화방 참여자를 특정하는 일부터 난관이다. 어렵게 찾아내도 처벌까지 이어질지 미지수다. 봇 자체는 법인격이 없어 제작자를 찾아내야 하는데 이 경우 봇이 범죄 수단으로 악용됐음을 입증할 수 있어야 한다. 이윤호 동국대 경찰행정학과 교수는 "제작자에게 성폭력처벌법상 허위 영상물 편집·반포 등 혐의와 명예훼손, 정보통신망법 위반 혐의 등을 적용할 수 있지만 봇이 실제 범죄에 사용된 경우에만 가능하다"며 "이마저도 제작자가 외국인인 경우 국내법 적용이 어려워 국가 간 사법 공조가 필요하다"고 말했다.

연관기사

• 해외에 수사 협조 요청, 성범죄만 늘었다… 텔레그램은 시종일관 '무응답'
(www.hankookilbo.com/News/Read/A2024082710520005854)

이용자 형량은 5년 수준... "수위 높여야"

봇을 이용한 사람은 2019년 이른바 'n번방' 사건을 계기로 만들어진 '딥페이크 방지법(성폭력 범죄 처벌에 관한 특례법 14조의 2)'에 근거해 처벌 가능하지만, 형량은 높지 않은 편이다. 사람의 얼굴·신체 또는 음성 촬영 및 영상물을 음란하게 편집·합성하거나 유포하면 5년 이하의 징역 또는 5,000만 원 이하의 벌금에 처한다. 다만, 딥페이크물을 유포할 목적으로 제작했다는 점이 입증돼야 하고 시청하거나 소지한 이는 처벌되지 않는다. 아동 성착취물이나 실제 촬영 성착취물의 경우 제작·유포자뿐 아니라 소지자도 처벌 대상인 것과 차이가 난다. 하진규 법률사무소 파운더스 변호사는 "유포 목적을 가지고 음란물을 제작할 경우 최고 형량은 5년이므로 보통 3, 4년이 선고될 것"이라고 했다. 이성엽 고려대 기술경영전문대학원 교수는 "봇을 이용해 음란물을 제작하더라도 자신이 소유할 목적으로 만들었다면 현행법상 처벌이 어렵다"고 진단했다.

전문가들은 해외 공조를 강화하고 딥페이크 음란물의 처벌 수위를 높여야 한다고 입을 모았다. 허민숙 국회입법조사처 입법조사관은 "피해자의 피해 정도에 상응하는 사회적 제재가 있어야 하고, 수사 기술도 고도화돼야 한다"고 강조했다. 곽대경 동국대 경찰사법대학 교수는 "세계적으로 딥페이크에 대한 경각심이 높아지고 범죄 피해도 상당한 만큼 각국 간 업무 협약이 필요하다"며 "인터폴(국제형사경찰기구) 같은 국제 기구나 외국 수사기관과 공조를 강화해야 한다"고 조언했다.

전유진 기자 noon@hankookilbo.com