"AI와 밤샘 대화 막는다"...뤼튼 '크랙', 청소년 이용 하루 3시간 제한

월 결제액도 10만원 제한
청소년 평균 이용시간은 비공개

[이데일리 권아인 수습기자] 인공지능(AI) 엔터테인먼트 서비스가 청소년 사이에서 확산되며 유해 콘텐츠 노출 등에 대한 우려가 커지고 있다. AI 엔터테인먼트 기업들은 청소년의 서비스 이용 시간과 결제 금액에 제한을 두는 등 보호장치 강화에 나섰다.

뤼튼테크놀로지스는 AI 엔터테인먼트 콘텐츠 플랫폼 ‘크랙’의 청소년 보호 정책 강화 계획을 8일 발표했다.

뤼튼테크놀로지스가 '크랙'의 청소년 보호 정책 강화 계획을 8일 발표했다. (사진=뤼튼테크놀로지스)

크랙은 청소년의 하루 서비스 이용 시간을 최대 3시간으로 제한할 계획이다. 청소년의 월 결제액에도 10만원 상한을 둔다. 하루 3시간 이상 서비스를 이용하거나 10만원을 초과해 결제하려면 보호자 인증과 동의 절차를 필수로 거쳐야 한다.

기존 청소년 보호 정책도 보완한다. 크랙은 현재 콘텐츠 생성 정책과 연령 등급 관리, 작품 검수, 검색 및 추천 제한, 신고 및 차단 기능, 위반 계정 제재 등을 시행하고 있다. 청소년 이용자들의 최신 이용 패턴을 분석해 추가 필터와 안전 시스템 프롬프트 등도 강화할 계획이다.

연령 인증 방식도 까다로워진다. 현재는 국가 지정 본인 확인 기관인 통신사가 발급하는 PASS 인증서를 통해 성인 여부를 구분하고 있다. 크랙은 이외의 추가적인 인증 수단을 검토할 방침이다.

뤼튼 이동재 최고제품책임자(CPO)는 “모두에게 안전하고 건강한 인공지능 서비스를 제공할 사회적 책임감을 무겁게 인식하고 있다”며 “특히 청소년 이용자의 안전을 최우선으로 고려하면서도 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 최선의 노력을 기울여 나가겠다”고 밝혔다.

AI 엔터테인먼트 서비스 ‘제타’를 운영하는 스캐터랩도 연령에 따라 콘텐츠를 구분하고 있다. ‘세이프 모드’를 통해서 청소년 유해매체물 수준의 콘텐츠가 생성되지 않도록 제한한다. 키워드 필터링 시스템을 통해 선정적 표현을 걸러내고 어뷰징 탐지 모델 등도 활용하고 있다.

하지만 청소년들이 실제 AI 캐릭터 엔터테인먼트 서비스를 얼마나 오래 이용하는지는 확인이 어렵다. 뤼튼에 따르면 크랙의 미성년자 이용 비중은 전체 이용자의 약 10%대지만 미성년자들의 평균 이용시간 등은 별도로 공개할 수 없다는 입장이다. 스캐터랩은 제타 이용자의 미성년자 비중과 이용시간을 공개하지 않았다.

권아인 (iamain@edaily.co.kr)