"딥페이크로 옷 벗기는 '언드레스', 청소년 유해 검색어 됐다"

[ 김주미 기자 ]

shutterstock

한국인터넷자율정책기구(KISO)는 네이버와 카카오, SK커뮤니케이션즈(SK컴즈) 등 포털 회원사들과 협력하여 지난해 청소년 보호를 위한 검색어 110개를 추가했다고 밝혔다.

최근 인공지능(AI) 기술을 활용한 콘텐츠가 우후죽순 생겨나는 가운데, '딥페이크'와 관련된 유해 검색어들이 새롭게 추가됐다. 인공지능 기술의 부상으로 인한 유해 정보 증가에 발 빠르게 대처한 것으로 평가된다. 

네이버, 카카오, SK컴즈 등 포털 3사는 KISO와 공동으로 청소년 보호 검색어 데이터베이스(DB)를 구축하고 관리하고 있다. 현재 약 51,000개의 청소년 보호 검색어 DB를 운영 중이며 지속적인 업데이트도 진행한다.

작년 KISO에서 추가한 검색어에는 불법 촬영물, 성 착취 관련 검색어, 마약류 매매 등 불법 및 유해 콘텐츠 관련 검색어가 다수 포함됐다.

특히 AI와 관련해서는 '지인능욕', '지인합성' 등 딥페이크 관련 검색어가 눈에 띈다. 또한 검색에서 일부 성인 콘텐츠를 노출하게 하는 애플리케이션 '언드레스(undress)' 관련 검색어도 청소년 보호 검색어가 됐다.

이번에 추가된 ‘언드레스’의 사전적 의미는 '정장이 아닌 편안한 옷'이지만, 최근 사진 속 인물의 옷을 벗기는 딥페이크 애플리케이션이 등장하면서 해당 단어의 검색이 폭증해 우려를 낳기도 했다. 단어 자체의 뜻은 괜찮지만 동일 명칭의 애플리케이션이 청소년에게 유해하다고 판단해 청소년 보호 검색어에 추가했다.

황용석 KISO 자율규제DB위원회 위원장은 “딥페이크와 관련된 검색어 추가는 초상권 침해, 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고, 성적 착취나 폭력으로의 연결 가능성을 예방하기 위해 필요한 조치”라고 언급했다. 

김주미 키즈맘 기자 mikim@kizmom.com 

ⓒ KIZMOM. All rights reserved. 무단 전재 및 재배포 금지