챗GPT, 캐나다 총기난사 사건 발생 위험 미리 알았다

오픈AI, 용의자 폭력적 상황 묘사 대화 감지
계정 정지했지만, 당국에 신고는 안해
사건 발생 인지 후 사용 내역 제공 등 수사 협조 중

[이데일리 임유경 기자] 캐나다 브리티시컬럼비아주 총기 난사 사건 용의자가 범행 전 챗GPT와의 대화에서 총격과 관련된 폭력적인 상황을 묘사했고, 오픈AI는 자동 검토 시스템으로 위험성을 포착해 계정을 정지했지만 당국에는 알리지 않은 것으로 드러났다고 월스트리트저널(WSJ)이 21일(현지시간) 보도했다.

캐나다 브리티시컬럼비아주 텀블러 리지에서 발생한 총기 난사 사건 희생자들을 추모하기 위해 주민들이 헌화하고 있다.(사진=AFP)

사안을 잘 아는 관계자들에 따르면 용의자인 제시 반루트셀라르는 지난해 6월 챗GPT를 사용하면서 며칠에 걸쳐 총격이 포함된 상황을 묘사했다. 해당 대화는 AI 모델의 오용 여부를 모니터링하는 자동 검토 시스템에의해 감지됐다.

오픈AI 직원들은 대응 여부를 두고 내부 논의를 진행했으며, 직원 일부는 현실 세계에서의 폭력 가능성이 있다고 보고 캐나다 수사 당국에 알릴 것을 제안했다고 한다. 하지만 오픈AI 경영진은 최종적으로 당국에 연락하지 않기로 결정했다.

오픈AI 측은 해당 보도에 대해 “우리는 지난해 6월 반루트셀라르의 계정을 차단했지만, 해당 활동이 수사 당국 신고 기준인 ‘타인에게 심각한 신체적 위해를 가할 신뢰할 수 있고 임박한 위험’에는 해당하는지 않는다고 판단했다”고 밝혔다.

오픈AI 측은 “총격 사건을 접한 직후 캐나다 왕립경찰(RCMP)에 연락을 취해 반루트셀라르의 챗GPT 사용 내역에 대한 정보를 적극적으로 제공했으며, 앞으로도 수사를 지원할 것”이라고 덧붙였다.

캐나다 당국은 18세 트랜스젠더 여성인 반루트셀라르를 지난 10일 발생한 총기 난사 사건의 용의자로 지목했다. 이날 브리티시컬럼비아주 시골 마을 텀블러 리지의 한 학교에서 발생한 총기 난사 사건으로 8명이 사망하고 최소 25명이 부상했으며, 용의자인 반루트셀라르도 자해로 보이는 부상을 입고 현장에서 숨진 채 발견됐다.

당국은 반루트셀라르의 다른 온라인 활동에서도 사건과 연관된 정황을 발견하고 분석 중이다. 그는 게임 플랫폼 로블록스에서도 대규모 총격을 시뮬레이션한 게임을 제작한 것으로 알려졌다. 또 소셜미디어에 자신이 사격장에서 총을 쏘는 사진을 올리고 3D 프린터로 탄피를 제작했다고 주장하기도 했다.

임유경 (yklim01@edaily.co.kr)