선정적인 AI 룩북 영상, 규제 방법 없을까?

권세림 인턴 2023. 10. 9. 08:11
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

버추얼휴먼 활용한 'AI 룩북' 콘텐츠 우후죽순
선정적 의상과 포즈의 AI 모델로 수익 창출
직업 성적 대상화, 아동·청소년 연상케 하기도
"아동·청소년으로 인식되면 처벌 대상 될수도"
생성형 AI(인공지능) 기술이 발전하며 유튜브에는 사람과 흡사하게 생긴 '버추얼휴먼'을 활용한 선정적 룩북(Look book) 콘텐츠가 우후죽순 등장해 논란이 되고 있다.(사진=유튜브 캡처) *재판매 및 DB 금지


[서울=뉴시스]권세림 리포터 = 최근 생성형 AI(인공지능) 기술이 발전하며 유튜브에는 사람과 흡사하게 생긴 '버추얼휴먼'을 활용한 선정적 룩북(Look book) 콘텐츠가 우후죽순 등장해 논란이 되고 있다.

유튜브 이용 결과 'AI 룩북' 검색 시 'AI 19', 'AI 룩북 치마' 등의 제목과 과도한 노출 의상을 입고 포즈를 취한 'AI 모델'이 담긴 영상이 다수 찾아볼 수 있었다.

룩북이란 여러 패션을 보여주기 위해 모델이 다양하게 착용한 장면을 모아놓은 사진집 또는 영상을 의미한다.

그러나 일부 유튜버들은 제한이 있는 인간 모델 대신 가상 인간에 파격적인 의상, 과감한 포즈 등을 적용한 AI 모델 룩북을 통해 조회수를 올리고 수익을 창출한다.

이들은 AI 룩북을 통해 승무원·경찰·아이돌 등 특정 직군을 성적 대상화하고, 교복·스쿨룩 등 아동·청소년을 연상케 하는 복장의 AI 캐릭터를 활용한다.

이처럼 선정적인 AI 모델 룩북을 제작하거나 시청하는 것 자체는 범죄가 아니다.

기본적으로 성인물로 분류돼 있으며, 유튜브에서도 성인 인증을 받은 사용자만 해당 콘텐츠에 접근할 수 있도록 제한하고 있기 때문이다.

다만 교복을 입은 버추얼휴먼이 선정적 포즈를 취하는 등 '아동·청소년'으로 인식될 만한 일부 영상의 경우, 아동·청소년 성 착취물로 분류될 수 있다.

아동·청소년의 성보호에 관한 법률(아청법) 2조에 따르면 '아동·청소년 성 착취물'은 실제 아동·청소년으로 명백히 인식될 수 있는 사람이나 '표현물'이 등장하는 것으로 명시돼 있다.

직접적으로 성행위를 묘사하지 않더라도, 신체의 전부 또는 일부를 접촉·노출해 일반인의 성적 수치심이나 혐오감을 일으키는 행위가 필름·비디오물·게임물 또는 컴퓨터 등을 통한 화상·영상의 형태로 표현되면 '성 착취물'로 규정한다.

그렇다면 아동·청소년 AI 모델이 등장하는 선정적 AI 룩북은 법적 처벌이 가능한 걸까?

법률사무소 DKL파트너스 권단 변호사는 "버추얼 휴먼을 활용한 구체적인 AI 룩북 콘텐츠가 아동청소년의 성보호에 관한 법률에 규정된 '아동청소년성착취물'에 해당하는 형태인 경우 위 법률로 규제할 수 있고, 아동청소년성착취물이 아닌 경우에도 음란물에 해당되면 정보통신망법상 음란물유포죄로 처벌할 수 있다"고 답했다.

실제로 최근 '생성 AI'를 활용해 아동 성 착취물을 제작 또는 소지해 기소된 사례가 나오기도 했다.

그러나 아동·청소년으로 명백하게 인식될 수 없는 콘텐츠이거나, 아동·청소년으로 명백하게 인식될 수 있더라도 일반인의 성적 수치심이나 혐오감을 일으키는 행위의 표현물이 아닌 경우, 그 밖의 성적 행위를 하는 내용의 표현물이나 음란물로 볼 수 없다면 버추얼 휴먼의 활용 여부나 AI 활용 여부와는 무관하게 표현의 자유 영역에 해당해 법적 규제 대상이 아니라고 설명했다.

표현의 자유에 속하는 범위라는 전제하에서 단순히 선정적이거나, AI를 활용해 콘텐츠를 쉽게 대량으로 발행했다 해서 법률로 국민의 기본권인 표현 행위를 강제로 규제하는 것은 위헌 소지가 있기 때문이다.

권 변호사는 "다만 자기 행동에 책임을 질 수 있는 성인과 달리 아동·청소년의 경우 선정적인 콘텐츠에 지속적으로 노출될 경우 정서적으로 악영향이 생길 우려가 있으므로 해당 콘텐츠를 제공하는 유튜브 같은 플랫폼에서 성인 인증 등 기술적인 조치를 통해 시청이나 다운로드를 제한하도록 하는 것이 표현의 자유와 아동·청소년의 보호라는 양쪽 가치를 균형 있게 자율적으로 조율할 수 있는 방법으로 보인다"며 "유튜브에서 자체 적용하고 있는 아동청소년성착취물이나 음란물 등에 해당하는 콘텐츠 검열 차단 조치를 실효적으로 적용하는 것이 사회적으로 문제 해결 방법이 될 것으로 보인다"고 말했다.

그러나 아직 AI 룩북 콘텐츠 자체를 제재할 수는 없는 상황이다.

AI는 콘텐츠 생산의 도구일 뿐이므로 AI로 생산된 콘텐츠가 타인의 저작권이나 인격권 등 권리를 침해하거나 음란물, 아동청소년성착취물 등 현행 법령에 위반되는 표현이 아닌 이상 사람이 제작하는 콘텐츠와 달리 별도로 법적으로 제재할 수 있는 근거는 없기 때문이다.

권변호사는 "입법을 통해 앞으로 버추얼휴먼에도 전자인격권을 부여하거나, AI로 대량 생산되는 콘텐츠의 유통을 제한하거나, AI 생성 콘텐츠임을 명시해 이용자들이 인간의 창작물이 아니라는 것을 명백히 인지하고 소비할 수 있도록 하는 등 여러 형태로 인간 창작물과 AI 생성 콘텐츠의 구별과 차별을 통한 창작자 권리 보호 및 소비자 선택권 보호 방향으로 입법 노력이 이루어질 것이라 본다"고 짚었다.

또 "AI 룩북 콘텐츠 분야의 경우에도 입법과 별도로 관련 사회단체나 유튜브 등 콘텐츠 유통 플랫폼에서 AI를 활용한 콘텐츠라는 점을 반복 고지, 표시하도록 한다든지, 아동청소년성착취물에 해당하는 표현물이나 음란물의 해당 기준을 좀 더 구체적으로 가이드라인으로 제정해 자율적으로 준수하도록 한다든지 등의 사회적 노력이 있을 것으로 보인다"고 전망했다.

◎튜브가이드
▶홈페이지 : https://www.tubeguide.co.kr
▶기사문의/제보 : tubeguide@newsis.com

☞공감언론 뉴시스 S2lynn@newsis.com

Copyright © 뉴시스. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?