“피해자 3명 넘으면 전국 뉴스 탈 수 있어”…총기 난사 부추긴 챗GPT

작년 플로리다주립대 사건 용의자
범행 전 챗GPT에 범행 계획 물어
“사람이었다면 살인 공모죄 해당”

플로리다 주립대 학생들이 총격 사건 희생자들을 추모하는 모습. AFP연합뉴스

생성형 인공지능 챗GPT가 지난해 플로리다 주립대에서 발생한 총격 사건에 적극 협조했던 정황이 드러났다.

2일(현지시간) 월스트리트저널(WSJ)에 따르면, 작년 4월 발생한 플로리다 주립대 총격 사건 용의자 피닉스 이크너는 범행 전날 챗GPT에게 자살 충동과 우울감을 토로한 뒤 구체적인 범행 계획을 물었다. 챗GPT는 “대학에서 3명 이상 피해자가 나오면 확실히 전국 매체의 주목을 받을 것”이라고 답했다.

챗GPT가 범행에 기술적 지원을 한 사실도 드러났다. 이크너가 권총과 탄약 사진을 업로드하며 사용법을 묻자, 챗GPT는 “이 모델은 안전장치가 따로 없다. 약실에 탄환이 있는 상태에서 방아쇠를 당기면 즉시 발사된다”고 친절히 설명했다. 이크너는 대화 종료 직후 범행을 단행했다.

문제는 챗GPT 운영사인 오픈AI가 이러한 위험 징후를 사전에 인지하고도 수사 기관에 알리지 않았다는 점이다. 내부 소식통에 따르면 오픈AI의 자동 모니터링 시스템은 이크너를 포함한 여러 위험 사용자의 대화를 ‘심각’ 단계로 분류했다.

하지만 경영진은 ‘사용자 프라이버시 보호’를 우선시하며 신고에 소극적이었던 것으로 파악됐다. 작년 여름 열린 내부 회의에서 조사팀 직원들은 수사 기관 신고 횟수를 늘려야 한다고 주장했으나, 법무팀과 샘 올트먼 최고경영자(CEO)는 “공공기관의 과도한 개입이 가족들에게 고통을 줄 수 있다”며 신중론을 펼쳤다.

올해 2월 캐나다 브리티시컬럼비아에서 8명의 사망자를 발생시킨 총격 사건도 유사했다. 오픈AI는 앞선 사례와 마찬가지로 용의자는 챗GPT를 이용해 교사와 학생들에 대한 총격 시뮬레이션까지 진행해 내부적으로 경고음이 울렸지만, 오픈AI 측은 이를 수사기관에 전달하지 않았다.

오픈AI가 챗GPT의 범죄 이용 가능성을 사전에 인지했지만, 수사기관에 이를 알리지 않았다는 점이 알려지며 사회적인 비난 여론이 일고 있다. 제임스 우스마이어 플로리다주 법무장관은 오픈AI를 상대로 형사 수사에 착수하며 “화면 반대편에 있는 게 기계가 아니라 사람이었다면 살인 공모죄로 기소했을 것”이라고 말했다.

캐나다에서도 유족들이 오픈AI를 상대로 과실치사 및 제조물 책임 위반 등의 소송을 제기했다. 미국 내 42개 주 법무장관들은 생성형 AI가 범죄를 독려하거나 구체적인 방법을 제시할 경우 개발사에게 책임을 묻겠다는 공동 서한을 발송했다.

논란이 커지자 샘 올트먼 CEO는 캐나다 사건 피해 지역에 사과문을 보내 “경찰에 즉시 알리지 못한 점을 사과하며, 향후 정부와 긴밀히 협력하겠다”고 밝혔다. 오픈AI 측은 정신건강 전문가를 투입해 신고 기준을 정비하고, 반복적인 규정 위반자를 즉각 차단하는 등 세이프가드를 대폭 강화하겠다고 발표했다.

하지만 전문가들은 AI의 ‘할루시네이션(환각)’이나 악의적인 ‘탈옥(Jailbreak)’ 기법을 완전히 막기란 기술적으로 불가능하다고 지적한다.