총기난사 사전에 포착하고도 눈 딱 감은 챗GPT

일부직원 캐나다법집행기관에 알리자고 촉구
오픈 AI “경찰을 개입시킴으로써 개인과 가족에게 야기될 수 있는 잠재적 고통 사이에서 균형”해명

지난 10일(현지시간) 총격 사건으로 8명이 숨지고 25명 이상이 부상한 캐나다 브리티시컬럼비아 주 텀블러리지의 학교 현장. 범인이 사전에 챗GPT와 범행 계획을 여러 날에 걸쳐 논의한 것으로 알려졌다 AP 뉴시스

캐나다 브리티시컬럼비아 주 시골 학교에서 총기를 난사해 8명을 숨지게 하고 25명 이상을 부상하게 한 법인이 범행 전 챗GPT와 범행 계획을 논의했으나 오픈AI 지도부가 이 사실을 캐나다 당국에 알리지 않기로 결정했다고 미 월스트리트저널(WSJ)이 20일(현지시간) 보도했다.

WSJ에 따르면 제시 반 루트셀라르(18)는 지난 10일 8명이 사망하고 최소 25명이 부상을 입은 총기 난사 사건의 학교 현장에서 스스로 총격을 가해 숨진 채로 발견됐으며 캐나다 경찰이 그를 용의자로 확인했다.

루트셀라르는 지난해 6월 며칠 동안 챗GPT를 사용하면서 총기 폭력 시나리오를 설명했다.

당시 오픈AI 직원들은 자동 검토 시스템에 의해 포착된 그녀의 게시물을 보고 놀랐으며 약 12명의 직원이 루트셀라르 게시물에 대해 조치를 취할지 여부를 두고 토론했다.

일부 직원들이 루트셀라르의 글을 실제 폭력의 징후로 해석해 지도부에 캐나다 법 집행 기관에 알릴 것을 촉구했으나 오픈AI 지도부가 당국에 연락하지 않기로 결정했다.

오픈AI의 한 대변인은 루트셀라르의 계정을 차단했으나 그의 활동이 법 집행 기관 보고 기준에 부합하지 않는다고 판단했다고 밝혔다.

오픈AI는 사용자가 실제 해를 끼치는 것을 저지하도록 모델을 훈련하며, 사용자가 가해 의사를 표현하는 대화를 인간 검토자에게 전달하고, 이들은 심각한 신체적 가해의 임박한 위험을 초래한다고 판단되는 경우 법 집행 기관에 회부할 수 있다고 밝혔다.

오픈AI는 폭력의 위험성과 개인정보 보호 고려 사항, 그리고 불필요하게 경찰을 개입시킴으로써 개인과 가족에게 야기될 수 있는 잠재적 고통 사이에서 균형을 취하고 있다고 밝혔다.

민병기 기자