10살 아이가 카카오 웹툰서 AI검색 켰더니.. '야한' '19금' '수위높은'

나이 상관 없이 똑같이 노출되는 AI 추천 키워드
따라 들어가면 순정만화·BL물이나 성인 영화 작품들
카카오 "소비자 선호 반영한 것일 뿐… 필터링할 수준 아냐"

초등학교 3학년 아들을 둔 직장인 이모(40)씨는 최근 아이가 평소 즐겨보던 카카오페이지 화면을 보고 깜짝 놀랐다. 앱 상에서 검색창을 띄우면 나오는 추천 키워드가 ‘야한’ ‘수위높은’ ‘19금이었으면좋겠는’ 등 자극적인 단어들을 노출하고 있었기 때문이다.

검색 결과 나오는 성인 콘텐츠를 이용하려면 나이 제한에 따라 본인 인증을 해야 한다. 다만 아이들의 호기심을 자극해 잘못된 행동으로 이끌 수도 있기 때문에 키워드 추천을 연령에 따라 차등해서 보여줘야 하는 것 아니냐는 지적이 나온다. 또 청소년 이용 불가 영화의 경우 성인 인증이 안 된 계정에 대해 소개 이미지인 썸네일을 가릴 필요가 있다는 얘기도 나온다.

14일 카카오페이지에서 이같은 키워드를 따라 검색했을 때 웹툰은 15세 이상 이용 가능한 순정만화나 BL(동성애)물이 주로 나온다. 영화에서는 청소년 이용 불가 작품이 대부분이고 일부 성행위 장면이 담긴 썸네일을 내건 경우도 있다.

지난해 8월 처음 도입된 카카오페이지의 검색 추천 서비스 ‘실시간 AI 유저 반응 TOP’은 이용자 반응 분석 툴인 ‘AI 키토크’가 분석한 결과를 내놓은 값이다. AI 키토크는 이용자들이 검색할 때 입력하는 단어나 콘텐츠 이용 후 다는 댓글 등을 모아 키워드를 생성한다.

이씨는 "나이에 상관 없이 누구에게나 똑같은 방식으로 콘텐츠를 소개하는 건 부적절한 것 같다"며 "아이들이 마음만 먹으면 부모 정보를 도용해 열어볼 수 있지 않느냐. 검색 첫 화면부터 성인 콘텐츠에 접근할 수 있도록 길을 열어주는 건 아니라고 본다"고 말했다.

지난 2015년 웹툰 플랫폼 레진코믹스도 성인만화를 청소년 제한 없이 유통한다는 지적에 방송통신심의위원회(방심위) 접속 차단 조치를 받기도 했다. 그러나 과잉 규제 논란이 일며 방심위는 반나절도 지나지 않아 해당 조치를 철회했다.

당시 레진코믹스는 "우리는 정상적인 성인인증을 거쳐 운영하고 있다"고 해명했다. 다만 성인 만화 썸네일이 제한없이 노출된다는 비판은 계속 제기돼 레진코믹스는 방심위 조치 약 한 달 뒤 썸네일 열람을 전면 차단했다. 성인만화 노출 방지 탭을 추가해 성인인증을 한 사용자만 썸네일을 볼 수 있도록 한 것이다.

방심위 심의위원인 김재영 충남대 교수는 "검색 결과 나오는 콘텐츠의 수위가 얼마나 높은 수준인가를 따져봐야 제재 대상인지 판단할 수 있다"며 "심의는 전체 플랫폼을 대상으로 하는 게 아니라 개별 게시물 단위로 하는 것"이라고 했다.

김 교수는 "공적인 기관에서 콘텐츠 문제를 일일이 접근하는 데 사실 한계가 있다"며 "최근 n번방 사건 등 음란물에 대한 경각심이 높아지는 시기인 만큼 사업자가 자체적으로 기준을 세워 선제적이고 전향적으로 나서는 게 바람직하다고 본다"고 말했다.

카카오페이지 관계자는 "검색창에 나오는 키워드는 우리가 추천하는 게 아니라 소비자들이 꾸준히 찾는 콘텐츠를 반영한 것일 뿐"이라며 "자체적으로 선정적인 단어나 비속어는 필터링하고 있고 ‘야한’ ‘19금이었으면좋겠는’과 같은 단어는 차단할 정도의 수준은 아니라고 본다"고 했다.

이 관계자는 "썸네일은 이미 영상물등급위원회에서 허가를 받은 포스터를 내건 것"이라며 "타사 플랫폼에서도 똑같이 노출하고 있는 이미지이기 때문에 문제가 되지 않는다"고 했다. 그러면서 "AI 키토크는 이용자 취향에 맞다면 구작(舊作)도 추천하는 등 작품의 라이프사이클(생애주기)을 늘린다는 취지로 도입됐다"며 "아직 출시한 지 얼마 안 되기도 했고 장기적인 관점에서 봐 주면 좋겠다"고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -