챗GPT '안심 연락처' 기능 도입…자해 위험 감지하면 알림 발송

위험 판단시 이메일·문자 등 알림 전송
만 19세 이상 국내 사용자 대상 적용

(서울=뉴스1) 김민재 기자 = 앞으로는 챗GPT가 사용자의 자해 위험 등을 감지하면 주변 사람에게 연락을 보낸다.

10일 정보기술(IT)업계에 따르면 오픈AI는 지난 7일(현지시간) 챗GPT에 '안심 연락처'(Trusted Contact) 기능을 추가했다.

성인 사용자는 해당 기능을 통해 지인이나 가족, 보호자 중 1명을 '안심 연락처'로 지정할 수 있다.

안심 연락처를 등록한 사용자가 자해를 언급하는 등 위험에 처했다고 판단되면 챗GPT는 사전에 지정된 사람에게 알림을 전송한다.

해당 기능은 챗GPT 자녀 보호 기능의 '안전 알림' 시스템에 기반해 구축했다. 만 19세 이상 국내 사용자라면 '안심 연락처'를 설정할 수 있다.

상대방이 일주일 이내에 초대장을 수락하면 기능이 활성화된다. 시스템은 자해 관련 언급을 감지하면 사용자에게 '안심 연락처'로 알림이 전송될 수 있다는 사실을 알린다.

이후 안심 연락처에 연락하도록 권장한다. 사용자가 심각한 위험에 처했다고 판단될 경우 안심 연락처로 이메일이나 문자 메시지, 챗GPT 애플리케이션(앱) 알림을 보낸다.

필요한 경우에는 상담 전화나 응급 구조 기관에 연락하라고 권한다. 사용자는 설정에서 '안심 연락처'를 삭제할 수 있다. 상대방도 언제든 삭제를 요청할 수 있다.

오픈AI 측은 "챗GPT는 자살이나 자해 관련 내용을 제공하지 않도록 훈련됐다"며 "어려운 순간에 사람을 돕는 AI 시스템을 구축하겠다"고 했다.

minjae@news1.kr

IT/과학