청소년 위험 감지하면 부모에 알린다…오픈AI, 내달 '자녀보호' 기능 도입

120일 동안 안전 기능 집중 강화
"설정 어렵고 우회도 쉬워" 비판도

챗GPT 개발사 오픈AI의 로고. 로이터 연합뉴스

오픈AI가 청소년을 보호하기 위해 내달 챗GPT에 '보호자 관리 기능'을 도입한다. 최근 사망한 10대에게 챗GPT가 자살방법을 조언했다는 논란이 일자, 청소년은 물론 위기 상황에 처한 이용자들에 대한 개입을 확대하겠다는 취지로 해석된다.

오픈AI는 2일(현지시간) 공식 블로그를 통해 앞으로 120일 동안 챗GPT의 안전 기능을 집중 강화하겠다고 공지했다. 이 기능을 활용하기 위해서는 먼저 부모가 만 13세 이상인 자녀에게 이메일 초대를 보내 자녀의 계정과 연결해야 한다. 청소년 계정에는 나이에 맞게 답변을 조절하는 '연령 적합성 규칙'이 기본으로 적용된다. 자녀 계정에 연결된 부모는 자녀의 채팅 내용이 오용되지 않도록 기록 저장 기능을 끌 수 있다. 또 자녀가 심각한 고통을 겪고 있다고 감지하면 챗GPT는 부모에게 경고 알림을 보낸다.

오픈AI는 "올해 초 가족들이 챗GPT를 함께 사용하고 각자의 집에 가장 적합한 방법을 선택할 수 있도록 더 많은 방법을 개발하기 시작했다"며 "다음 달 안에 자녀 보호 기능을 출시한다"고 밝혔다. 회사는 전문가의 의견을 반영해 부모와 자녀 간의 신뢰를 강화하는 기능을 제공할 계획이라고 밝혔다. 또 장시간 대화가 이어질 경우 휴식을 권장하는 기능도 포함된다.

앞서 캘리포니아주(州)에 사는 맷과 마리아 레인 부부는 16세 아들이 챗GPT와 몇 달 동안 자살 계획을 논의한 뒤 사망에 이르렀다며 오픈AI를 상대로 소송을 냈다. 챗GPT는 레인에게 반복해서 위기 상담센터에 전화하라고 권했지만 그는 "내가 쓰는 소설을 위한 거다"라고 말해 안전장치를 우회했다고 한다.

지난해 10월 미 플로리다주에서도 한 10대가 TV 드라마 '왕좌의 게임' 속 캐릭터를 모델로 한 챗봇에 애착을 느끼고 "사랑한다"는 메시지를 주고받다가 사망했다며 그 부모가 인공지능(AI) 스타트업 캐릭터.AI를 상대로 소송을 내기도 했다.

다만 오픈AI의 보호자 관리 기능을 놓고 '임시방편'이라는 비판도 나온다. 어린이를 위한 안전한 미디어 옹호 비영리 단체인 커먼센스의 AI책임자 로비 토니는 "자녀 보호 기능은 설정하기 어렵고 청소년이 우회하기가 매우 쉽다"며 책임을 부모에게 전가하는 것이라고 비판했다.

구글과 메타 등 AI 챗봇을 만드는 다른 회사들도 자녀보호 기능을 제공하고 있다. 유가족으로부터 소송을 당한 캐릭터.AI도 사건 이후 부모가 자녀의 챗봇 사용시간과 자주 상호작용한 캐릭터 정보를 포함한 주간활동 보고서를 받을 수 있도록 했다.

한국일보는 한국기자협회 자살예방 보도준칙을 준수합니다.

실리콘밸리= 박지연 특파원 jyp@hankookilbo.com