'10대의 놀이터' 로블록스, 자녀 보호 기능 강화... AI가 위험한 음성 대화 걸러낸다

AI 음성 안전성 모델에 한국어 포함
부모 계정 권한 강화해 친구·콘텐츠 차단도 가능하게

로블록스가 자녀 보호 기능을 업데이트하면서 부모 계정은 로블록스 내 개별 체험(콘텐츠)을 관리하고 자녀가 이용하지 못하도록 차단할 수 있다. 로블록스 제공

저연령층 이용자가 많아 '10대의 놀이터'로 불리는 게임·창작 플랫폼 로블록스가 부모 입장에서 자녀의 경험을 관리할 수 있는 보호 기능을 강화한다고 밝혔다. 음성 대화 내용을 인공지능(AI)이 살펴 정책을 어겼는지 필터링하는 기능도 한국어로 확대 적용한다.

3일 정보기술(IT) 업계에 따르면 로블록스는 2일(현지시간) 세 가지 자녀 보호 기능을 추가로 출시하고 플랫폼에 내장된 안전 시스템 및 기술을 개선한다고 발표했다. 이에 따라 앞으로 로블록스를 자녀와 함께 이용하는 부모는①자녀가 특정 계정과 쪽지를 주고받지 못하도록 관리하고 ②로블록스 내에 존재하는 특정 콘텐츠를 자녀가 이용할 수 없게 차단할 수 있게 된다. 또 ③로블록스에서 자녀가 가장 많이 이용하는 콘텐츠가 무엇인지 상위 20개까지 확인할 수 있다.

2024년 7월에 도입한 '음성 안전성 모델'도 성능을 강화했다. 기계 학습을 통해 음성 대화에서 규정 위반 발언을 감지해 제재 등을 가할 수 있도록 하는 시스템인데 이번에 한국어를 포함해 스페인어, 독일어, 프랑스어, 포르투갈어, 이탈리아어, 일본어 등 7개 언어까지 적용 범위를 넓혔다. AI가 한국어 음성 대화도 본격적으로 검열 대상으로 삼게 된 것이다.

로블록스는 지난해 11월에도 13세 미만 이용자의 대화를 제한하고 부모가 자녀의 로블록스 이용 시간이나 체험 가능한 콘텐츠 수위를 조정하는 권한 등을 부여하는 등 청소년 보호 정책을 대대적으로 도입했다. 청소년 이용자가 많은 사회관계망서비스(SNS) 인스타그램과 짧은 영상 플랫폼 틱톡 등이 부모 계정을 도입하고 청소년 보호를 강화한 것과 같은 맥락이다.

맷 코프먼 로블록스 최고안전책임자는 "지난 20년 동안 로블록스는 안전을 최우선에 두고 성장 및 혁신해 왔으며 모든 안전 관련 도구 및 기능은 로블록스를 세계에서 가장 안전하고 시민 의식을 갖춘 플랫폼으로 만들겠다는 우리의 목표를 보여준다"고 밝혔다.

연관기사

• 청소년이 밤늦도록 틱톡 실행하면 '명상의 시간' 뜬다
(www.hankookilbo.com/News/Read/A2025031214360005680)

• [New & Good] 자녀의 인스타 대화가 걱정된다면...'청소년 계정'으로 관리하세요
(www.hankookilbo.com/News/Read/A2025021114030004011)

인현우 기자 inhyw@hankookilbo.com