[IT썰]챗GPT를 자살에 악용하는 사례 나오자, 칼 빼든 오픈AI

2023년 3월21일 보스턴에서 열린 ChatGPT의 출력이 표시되는 컴퓨터./AP=뉴시스 /사진=AP 뉴시스

오픈AI가 챗GPT에 이용자 보호 기능 2가지를 추가했다. 최근 챗GPT가 자살에 악용되거나, 자살을 부추기는 사례가 나와서다.

2일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 민감한 대화가 나오면 자동으로 GPT-5 등 추론 모델로 전환하는 기능을 추가했다. 다음 달까지 '부모 통제 기능'도 도입할 계획이다.

이는 최근 10대 청소년 아담 레인이 챗GPT로부터 배운 방법으로 자살한 사건에 대응하는 것이다. 아담 레인의 부모는 오픈AI를 상대로 소송을 제기했다. 정신질환 병력이 있던 다른 챗GPT 이용자 스타인-에릭 쇨버그는 챗GPT와 음모론에 관해 대화하면서 망상이 강해졌고, 어머니를 살해한 뒤 자살하기도 했다.

오픈AI는 대화가 위험한 방향으로 흐를 경우 자동으로 추론 모델로 전환하는 것을 한가지 해결책으로 본다. 회사는 GPT-5 thinking이나 o3 등 추론 모델이 악의적 프롬프트에 더 강하다고 설명했다.

오픈AI는 "최근 대화 맥락에 따라 효율적인 채팅 모델과 추론 모델을 실시간으로 선택하는 라우터(자동 전환 장치)를 도입했다"며"시스템이 이용자의 갑작스러운 (심리적인) 고통 신호를 감지하면 추론 모델로 자동 전환해 더 도움이 되고 유익한 답변을 제공할 것"이라고 말했다.

오픈AI는 다음 달 내 부모 계정과 청소년 자녀 계정을 연결할 수 있는 부모 통제 기능도 도입할 계획이다. 부모는 기본 설정으로 켜진 '연령에 맞는 모델 행동 규칙'으로 자녀에서 챗GPT가 어떻게 반응할지 조절할 수 있다.

또 부모는 메모리 및 채팅 기록 등 몇 가지 기능을 비활성화할 수 있다. 전문가들은 이 기능이 망상, 의존성, 해로운 사고 강화, 생각을 읽는 듯한 착각 등의 문제 행동을 유발할 수 있다고 본다. 아울러 부모는 청소년이 갑작스럽게 심리적으로 고통스러워하는 순간이 감지되면 알림을 받아볼 수 있다.

한편 챗GPT 이용자 수는 국내에서도 빠르게 증가 중이다. 와이즈앱·리테일에 따르면 지난달 챗GPT의 국내 월간 활성 이용자 수(MAU) 추산치는 2031만명으로 전년(407만명) 대비 약 5배 증가했다. 국내 스마트폰 사용자 5120만명의 약 40%에 해당한다. 20세 미만 이용자가 13.6%, 20대 이용자는 24.2%로 10·20대 이용자가 약 37.8%였다.

이찬종 기자 coldbell@mt.co.kr