챗GPT 극단선택 악용에 “자녀 보호 기능 마련”

오픈AI 다음 달에 ‘부모 통제’ 기능 도입

오픈에이아이(AI)가 부모 통제 기능을 도입한다. 로이터 연합뉴스

오픈에이아이(AI)가 생성형 인공지능 챗지피티(GPT)에 이용자 보호를 위한 ‘부모 통제 기능’을 추가한다. 최근 미국에서 한 소년이 극단적 선택을 하는 과정에서 챗지피티를 이용해 방법 등의 정보를 얻은 것으로 알려지면서 관련 위험성이 제기된 데 따른 조처다.

오픈에이아이는 2일(현지시각) 자사 블로그에 부모자 직접 자녀 계정을 관리할 수 있는 부모 통제 기능을 오는 10월께 도입할 예정이라고 밝혔다. 이를 통해 부모는 자신의 계정을 자녀의 계정과 연동해 메모리(챗지피티가 사용자 정보를 저장해 두는 공간)와 채팅 기록 등을 관리할 수 있게 된다. 자녀의 채팅에서 이상징후가 감지되면 알림을 받을 수도 있다.

이용자가 챗지피티를 통해 위험하거나 민감한 대화를 할 경우, 이를 감지해 응답 모델을 전환하는 방안도 마련했다. 극단적 선택 등의 대화가 감지되면 응답 모델이 ‘기본 모델’에서 더욱 연산을 거쳐 답을 내놓는 ‘추론 모델’로 전환되는 방식이다. 오픈에이아이는 “추론 모델이 더 안정적으로 안전 지침을 따르고, 적대적 프롬프트에 잘 저항한다는 사실을 확인했다”고 설명했다. 적대적 프롬프트란 챗지피티 같은 대형 언어 모델의 안전장치를 회피하거나 무력화하기 위한 사용자의 명령을 말한다.

이번 대책은 최근 미국에서 10대 청소년이 챗지피티를 통해 얻은 방법으로 극단적 선택을 한 일이 불거지면서 마련됐다. 지난달 26일(현지시각) 뉴욕타임스 등 외신 보도를 보면, 앞서 지난 4월 미국 캘리포니아주에 사는 아담 레인(16)이 챗지피티와 극단적 선택 방법에 관한 대화를 나눈 뒤 숨진 채 발견됐다. 이에 이 소년의 부모는 오픈에이아이와 샘 올트먼 오픈에이아이 최고경영자를 상대로 손해배상 소송을 냈다.

오픈에이아이는 청소년 정신건강 문제를 해결하기 위해 전문가 집단과 협업하고 있다고도 밝혔다. 오픈에이아이는 “청소년 발달, 정신 건강, 인간-컴퓨터 상호작용 분야의 전문가로 꾸려진 웰빙 및 인공지능 전문가 위원회를 올해 초 소집하기 시작했다”고 했다. 위원회에서 낸 의견은 챗지피티 사용자 보호장치 설계 등에 반영된다.

의료진 협력도 강화한다. 오픈에이아이는 “60개국에서 250명 이상의 글로벌 의료진과 협력하고 있다”며 “섭식장애, 약물사용, 청소년 건강 등 분야에 전문성을 가진 임상 의사와 연구자를 네트워크에 더 추가하고 있다”고 밝혔다.

채반석 기자 chaibs@hani.co.kr