여성 나체 9초 만에 ‘뚝딱’…포르노 제작 장벽 없앤 생성형 AI

생성형 AI 기반 포르노 플랫폼
누구나 쉽게 포르노 콘텐츠 제작
“AI 제공자 아닌 이용자 규제해야”

생성형 AI 기반의 포르노 콘텐츠 제작 사이트 목록.

마른 체형의 단발머리 여성 나체 이미지를 만드는 데는 9초면 충분했다. 무료로 포르노 이미지를 생성할 수 있는 이 사이트에서는 제작에 필요한 질문 항목을 먼저 제시한다. 사이트 상단에는 “AI로 나만의 포르노를 만드세요”라는 문구가 적혀 있었다.

이곳에서 이미지를 생성하려면 일단 성별을 골라야 한다. 이어 어떤 이미지를 원하는지 각 질문 항목에 따라 자세하게 표시하면 된다.

항목은 꽤 구체적이다. 동양인지, 서양인지를 선택한 다음 머리스타일과 체형을 지정할 수 있다. 사용자가 원하는 가슴 크기와 신장 등 신체 특징도 묻는다. 실사와 같은 이미지도, 만화 캐릭터 같은 이미지도 사용자의 선택에 달렸다.

모든 과정을 마무리하면 AI가 해당 내용을 반영한 이미지를 생성한다. 소요시간은 약 7~9초 정도다.

일정 비용을 지불하면 더 정교한 작업도 가능하다. 사용자들은 사이트 내 커뮤니티 공간에서 각자 만든 포르노 콘텐츠를 공유할 수도 있다.

이 사이트에 접근하는 과정은 간단했다. 접속부터 이미지를 생성할 때까지 별다른 제한은 없었다. 성인인증을 요구하는 과정이 있었을 뿐이다.

AI로 포르노 콘텐츠를 생성하는 사이트를 찾는 일도 어렵지 않았다. 관련 사이트를 모아놓고 접속 링크를 제공하는 곳도 적지 않았다. 대다수의 사이트는 무료로 서비스를 제공했다.

생성형 AI는 누구든 포르노 제작자가 될 수 있는 길을 열었다. AI로 만든 여성 모델을 활용해 수익을 창출하기도 한다.

AI가 만든 한 가상의 여성 모델들은 창작자 후원 플랫폼을 통해 수익을 내고 있다. 인스타그램 등 사회관계망서비스(SNS)에 해당 모델들의 사진을 게시해 후원 플랫폼으로 유도하는 방식이다.

해당 모델들을 후원하는 페이지로 이동하자 3종의 요금 구간이 나왔다. 후원 액수가 높으면 그만큼 수위 높은 이미지를 받아볼 수 있다. 이 모델들의 SNS 계정 팔로워는 5만명이 넘는다.

AI로 제작한 가상 모델.

생성형 AI가 발전할수록 이에 기반한 포르노 콘텐츠 시장도 가파르게 성장하고 있다. 지난해 이미지 생성 AI ‘스테이블 디퓨전’이 출시되자 이를 포르노 콘텐츠 제작에 활용하는 플랫폼이 등장하기도 했다.

테크크런치에 따르면 이 플랫폼에서는 35만명이 넘는 사용자가 매일 50만개 이상의 이미지를 생성하고 있다.

AI로 제한없이 포르노 콘텐츠를 제작할 경우 악용될 가능성을 배제할 수 없다. 실제 AI 알고리즘으로 가상의 이미지나 실제 모습을 합성하는 딥페이크 기술로 허위 사진이나 영상을 제작하는 사례가 끊이지 않는다.

지난달에는 생성형 AI로 아동·청소년이 등장하는 음란물을 제작한 40대 남성이 징역 2년 6개월의 실형을 선고받기도 했다. 생성형 AI로 아동 성착취물을 제작한 피의자에게 징역형을 선고한 최초 사례다.

남양주북부경찰서는 최근 생성형 AI로 여학생 신체 노출 합성 사진을 만들어 배포한 10대 남학생을 불구속 입건했다.

뉴욕포스트는 생성형 AI로 제작된 포르노 배우가 미국 포르노 산업의 새로운 개척자가 되고 있다고 전했다. 한국콘텐츠진흥원이 주관한 포럼에서는 AI를 활용한 콘텐츠 가운데 80%가 성산업이나 범죄에 활용되고 있다는 지적도 나왔다.

주요국에서는 이미 생성형 AI가 악용되지 않도록 규제하는 방안이 논의 중이다. 미국 하원에서는 딥페이크물에 대한 표시 의무를 부과하는 법안이 발의됐다. 이 의무는 생성형 AI 제공자가 아니라 이용자에게 부과된다. 표시 의무를 어기면 징역 5년 이하에 처한다는 것이 골자다.

유럽연합(EU)의 AI 법안은 딥페이크를 생성하는 시스템을 ‘제한적 위험을 가진 AI’로 규정한다. 이 경우 이용자는 미 하원에서 발의된 법안과 마찬가지로 AI로 제작된 콘텐츠라는 점을 표시해야 한다. 다만, 형사처벌 규정은 따로 두지 않았다.

현직 검사들은 생성형 AI 제공자가 아닌 이용자들의 행위를 규제하는 방향으로 정책이 마련돼야 한다고 주장했다. 생성형 AI 제공자에게는 인공적 콘텐츠임을 알릴 수 있는 표시 의무만을 부과해야 한다는 것이다.

김정화 대구지검 검사, 임동민·차호동 서울중앙지검 검사는 지난달 논문을 통해 “딥페이크 포르노 제작, 명예훼손 목적 생성물 제작 등을 금지해야 한다”며 “제공자는 이용자가 어떤 목적으로 시스템을 활용하는지 사전에 파악·통제하기 어려운 만큼 행위규제를 부과하는 것은 다소 과도하다”고 지적했다.

이들은 “딥페이크 포르노와 같이 생성 자체로 법익침해적인 생성물은 절대적 제작금지 생성물로 보아 제공자·이용자를 불문하고 제작·유포를 금지해야 한다”며 “규제·금지돼야 하는 최소한의 영역을 제공자·이용자들에게 미리 명확하게 제시해 AI 서비스의 건전하고 생산적인 활용도를 극대화해야 한다”고 조언했다.