“총기난사 위험 외면해”...캐나다, 오픈AI와 올트먼 제소

브리티시컬럼비아주 “AI도 형사법 원칙 예외 없어”
AI 기업의 법적, 윤리적 책임 공방

최근 총기난사 사건으로 여러명이 숨진 캐나다 브리티시컬럼비아주 텀블러리지 학교에 경찰차가 세워져 있다. / 로이터 연합뉴스

캐나다 브리티시컬럼비아주(州)가 지난 2월 발생한 텀블러리지 학교 총기 난사 사건과 관련해 오픈AI와 샘 올트먼 최고경영자(CEO)를 미 캘리포니아 연방법원에 제소했다. 오픈AI가 범인의 위험한 챗GPT 대화를 사전에 포착하고도 이를 경찰에 알리지 않아 참사를 막을 기회를 놓쳤다는 것이다. 올 2월 인구 2700여 명의 소도시 텀블러릿지에서 발생한 총기 난사 사건으로 8명이 숨지고 25명 이상이 다쳤다. 용의자는 현장에서 숨진 채 발견됐다.

21일(현지 시각) 미 캘리포니아 북부연방지방법원에 제출된 39페이지짜리 소장에 따르면, 오픈AI는 사건 발생 8개월 전인 작년 6월 범인이 수일간 챗GPT와 총기 폭력에 관해 대화를 나누는 것을 자동 시스템으로 포착했다. 안전 담당 직원들은 이에 대해 경찰 신고를 권고했지만 오픈AI 경영진은 이를 받아들이지 않았고, 범인의 계정만 차단했다. 이후 범인은 새 계정을 만들어 범죄 계획을 계속 세웠다.

브리티시컬럼비아주 측은 오픈AI의 이러한 행위가 제조물 책임법 위반과 대량 총기 난사 방조에 해당한다고 보고 소송을 제기했다. 니키 샤르마 B.C.주 법무장관은 “타인의 범죄를 도우며 공모하거나 형사상 과실을 저지른 경우 처벌을 받는 것이 법의 원칙이며, 인공지능(AI)이라고 해서 예외가 될 수는 없다”고 했다.

샘 올트먼 오픈AI CEO는 지난 4월 참사 발생에 대한 책임을 인정하고 사과했지만, 브리티시컬럼비아주는 피해 보상과 재발 방지를 요구하고 있다. 참사가 발생한 학교 철거와 신축비, 생존자 정신건강 치료 비용, 지역 사회 복구 비용 등의 배상을 요구하고, 폭력 발생 가능성이 있는 AI 챗봇 대화를 경찰에 신고하는 기준을 마련하라고 촉구하고 있다. 피해자 가족과 교직원 등 30여 명도 별도 소송을 제기한 상태다.

테크 업계는 이번 소송이 AI의 안전성과 기업의 관리 책임을 따지는 중요 분기점으로 보고 있다. 특히 AI 기업의 법적·윤리적 책임에 대한 중대한 화두를 던지고 있는 것으로 평가된다.