“귀하의 자녀가 자살방법을 검색했습니다”…뒷북 아이지킴이 나선 빅테크

자살유도·숏폼노출 비판에 미성년자 기능 도입
부모가 자녀 콘텐츠 수위·접근여부 결정 가능해

연합뉴스 일러스트 이미지를 구글 제미나이로 재가공. [사진 출처=연합뉴스]

중학생 자녀를 둔 강민선 씨는 최근 아이가 이용하는 챗GPT 계정을 자신이 직접 관리하기 시작했다. 챗GPT의 자녀 보호 기능을 사용해 아이가 밤 10시 이후에 쓰는 것을 막고, 혹시 이상한 이미지를 만들 수 있다는 생각에 이미지 생성 기능도 차단했다. 이 사실을 안 아이는 크게 반발했지만 강씨는 “해로운 콘텐츠를 막으려면 꼭 필요한 일”이라며 타일렀다.

최근 챗GPT 개발사인 오픈AI를 필두로 주요 인공지능(AI) 및 사회관계망서비스(SNS) 기업들이 미성년자에게 콘텐츠 일부를 차단하는 기능을 잇달아 도입하고 있다. 지난해 챗GPT가 미성년자에게 자살 방법을 알려준 탓에 실제 자살까지 이어지는 극단적인 사례가 발생했고 과도한 SNS 노출에 따른 부작용에 대한 비판이 거듭되자 아예 특정 연령대 이하에게 노출할 수 있는 콘텐츠 수위를 그 부모에게 직접 결정할 수 있도록 권한을 부여하는 것이 특징이다.

8일 정보통신기술(ICT) 업계에 따르면 오픈AI는 최근 챗GPT의 18세 미만 계정에 적용되는 자녀 보호 기능을 한국을 포함한 글로벌에 도입했다.

부모가 자신의 계정에 자녀 계정을 추가하는 내용의 이메일을 보내고, 자녀가 이를 수락하면 자녀 계정의 주요 설정을 바꿀 수 있다.

민감한 콘텐츠에 노출되는 것을 막는 기능이 대표적이다. 이 기능을 설정하면 성적(sexual)이거나 로맨틱하고 폭력적인 내용의 대화가 차단된다. 특히 자해·자살과 관련된 이야기는 전면 금지된다. 만약 미성년자가 자살 충동을 느낀다고 판단되면 부모에게 이메일이나 애플리케이션 알림 등으로 연락을 시도한다. 미국의 경우 연결이 안 되면 경찰 등 관계 기관에도 통보한다.

지브리풍 프사(프로필 사진) 만들기 열풍을 불러왔던 이미지 생성 기능뿐만 아니라 이용자와 기존에 나눴던 채팅 내용을 기억했다 이후 대화에 활용하는 ‘메모리(memory)’ 기능도 부모의 판단으로 끌 수 있다.

이밖에 자녀가 챗GPT를 쓸 수 없는 시간을 부모가 직접 설정하는 것도 가능하다.

메타도 최근 한국 페이스북과 메신저에 비슷한 기능의 ‘청소년 계정(Teen Accounts)’을 도입했다. 지난해 인스타그램에 적용했던 기능을 올해 상반기 미국 등 해외 주요국으로 확대한 데 이어 이번에는 한국에도 적용한 것이다.

이에 따라 국내에서 이용자가 만 14세 이상에서 18세 이하일 경우 부적절한 콘텐츠와 원치 않는 연락이 제한된다. 청소년은 자신이 팔로하거나 이전에 메시지를 주고받은 적이 있는 사람들에게서만 메시지를 받을 수 있다.

태그, 멘션, 댓글도 자신이 팔로하거나 친구인 사람들에게만 가능하다. 심야시간 사용도 제한된다.

특히 부모는 자녀들이 누구와 대화하는지 확인할 수 있다. 다만 메시지 내용은 들여다볼 수 없다.

이 같은 설정을 바꾸려면 연결돼 있는 부모 계정을 통해 허락을 받아야 한다.

카카오는 최근 카카오톡에 자녀가 숏폼에 노출되는 것을 막을 수 있는 미성년자 보호조치를 추가했다.

앞서 지난달 카카오는 업데이트를 통해 카톡 세 번째 탭을 짧은 영상이 자동으로 재생되는 ‘숏폼’ 중심으로 개편했다. 이에 청소년들이 과도하게 영상에 노출될 수 있다는 우려가 커지자 고객센터를 통해 부모와 자녀 관계가 입증되면 숏폼이나 오픈채팅, 혹은 두 서비스 모두에 아이의 접근을 차단할 수 있게 한 것이다.

다만 현재 신청하려면 가족관계증명서를 첨부해야 하는데, 번거롭다는 지적이 많은 만큼 4분기 중 관련 절차를 간소화하기로 했다.

이처럼 주요 정보기술(IT) 기업들이 잇달아 청소년 보호 정책을 도입하는 것은 “AI와 SNS가 만들어내는 해로운 콘텐츠 탓에 아이들이 피해를 입고 있다”는 이용자들의 비판을 반영한 조치로 풀이된다.

실제 오픈AI는 지난해 미국의 16세 고등학생 애덤 레인의 자살 사건 주범으로 지목되며 비난받고 있다.

레인이 챗GPT와 자살 관련 대화를 나눴고, 이 과정에서 챗GPT가 구체적인 자살 방법까지 설명했다고 알려지자 그의 부모는 “미성년자 보호 장치를 충분히 마련하지 않아 자살을 부추겼다”며 오픈AI에 소송을 제기한 상태다.

메타 역시 페이스북과 인스타그램의 과도한 중독성이 청소년의 정신 건강에 피해를 주고 있다며 미국 캘리포니아주 등 33개 주정부에서 소송을 당한 상태다.

다만 일각에서는 이런 조치가 청소년의 권리를 과도하게 침해한다는 지적도 나온다. 부모가 알아서 자녀에게 노출되는 콘텐츠를 제한하도록 한 것은 결국 기업들이 청소년을 보호해야 할 책임을 부모에게 전가하는게 아니냐는 비판도 제기된다.