오픈AI, 챗GPT '연령 예측' 도입…미성년자 유해 콘텐츠 자동 제한

오픈AI. 전자신문DB

챗GPT 개발사 오픈AI가 이용자의 사용 패턴 등을 분석해 연령을 가늠하고, 미성년자로 판단될 경우 일부 유해 콘텐츠를 제한하는 기능을 본격적으로 가동한다.

오픈AI는 20일(현지시간) 자사 블로그를 통해 “챗GPT에 연령 예측(age prediction) 기능을 가동해 계정 소유자가 18세 미만일 가능성을 판단함으로써 청소년에게 적합한 경험과 보호 장치를 적용할 수 있도록 한다”고 밝혔다.

챗GPT에 도입된 연령 예측 모델은 계정 생성 기간과 이용자의 일반적인 활동 시간대, 시간 경과에 따른 사용 패턴 등을 종합적으로 분석해 이용자가 18세 미만인지 아닌지 판단한다고 회사 측은 설명했다.

연령 예측 모델을 통해 계정 소유자가 18세 미만일 것으로 추정될 경우, 챗GPT는 민감한 콘텐츠 노출을 줄이기 위해 설계된 추가 보호 장치를 자동으로 적용한다.

폭력적인 묘사나 잔혹한 콘텐츠, 미성년자에게 위험하거나 유해한 행동을 조장할 수 있는 유행 '챌린지', 성적이거나 폭력적인 역할극, 자해 묘사, 극단적인 미적 기준, 건강에 해로운 다이어트, 신체 비하를 조장하는 콘텐츠 등의 노출이 제한된다.

이런 접근 방식은 전문가 의견과 아동 발달 과학에 관한 학술 문헌을 기반으로 하며, 청소년의 위험 인식, 충동 조절, 또래 영향, 감정 조절 능력의 차이를 고려한 것이라고 오픈AI 측은 설명했다.

다만 연령 예측 모델을 통해 18세 미만으로 잘못 분류된 이용자는 신원 확인 서비스인 '퍼스나'(Persona)를 통해 연령을 확인하고 완전한 접근 권한을 복구할 수 있다고 회사 측은 덧붙였다.

앞서 오픈AI는 청소년들이 챗GPT와 대화한 이후 망상이나 우울증 등에 시달리다 스스로 생을 마감하는 일이 잇따르면서 유족들로부터 소송을 당한 바 있다.

김명희 기자 noprint@etnews.com