오픈AI, 총격 용의자 미신고 사과…AI 책임 논란 확대

AFP연합뉴스

오픈AI가 총격 사건 용의자에 대한 사전 경고를 경찰에 전달하지 않은 데 대해 공식 사과했다. 인공지능(AI) 기업의 위험 신호 대응과 공공 안전 책임 범위를 둘러싼 논쟁이 커지고 있다.

27일 월스트리트저널(WSJ)에 따르면 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 23일 서한을 통해 캐나다 텀블러 릿지 지역 주민들에게 사과했다. 그는 지난 2월 8명이 사망한 총격 사건의 용의자 제시 밴 루츠셀라르의 활동을 사전에 경찰에 알리지 못한 데 대해 유감을 표했다. 해당 용의자는 지난해 6월 챗GPT에서 폭력적 메시지를 남겨 계정이 정지된 인물이다.

오픈AI 내부 시스템은 당시 용의자의 메시지를 위험 신호로 자동 탐지했고 일부 직원들은 실제 폭력 가능성을 우려해 캐나다 당국에 통보해야 한다고 판단한 것으로 알려졌다. 그러나 회사 경영진은 경찰에 연락하지 않기로 결정했다. 이후 2월 사건 발생 후 경찰은 18세 트랜스젠더 여성인 밴 루츠셀라르를 용의자로 지목했다.

사건 이후 오픈AI는 용의자가 추가로 사용하던 두 번째 챗GPT 계정이 존재했다는 사실도 확인했다. 회사는 이번 사건을 계기로 안전 프로토콜을 강화했으며, 현재 기준이라면 해당 계정을 법 집행기관에 통보했을 것이라고 밝혔다.

최근 AI 기업의 책임 범위와 규제 필요성에 대한 논의가 확대되고 있다. 캐나다에서는 이달 여당인 자유당 소속 의원들이 16세 미만 청소년의 AI 챗봇 사용을 금지하자는 결의안을 채택했다. 다만 이는 구속력 없는 권고 수준이며, 구체적 규제는 아직 확정되지 않았다.

이번 사안은 단순한 기업 대응 실패를 넘어 AI 기술이 공공 안전과 어떻게 연결될 것인지에 대한 구조적 문제를 드러낸다. 특히 위험 신호 탐지 이후 실제 물리적 대응으로 이어지는 기준과 절차가 명확하지 않다는 점이 핵심 쟁점으로 꼽힌다.

다만 개인정보 보호와 표현의 자유 침해 우려도 동시에 제기된다. AI 기업이 사용자 데이터를 어느 수준까지 당국과 공유해야 하는지를 여전히 명확한 합의가 없는 상태다. 과도한 신고는 오탐지 문제와 인권 침해로 이어질 수 있다는 지적도 나온다.

앞으로는 AI 기업과 정부 간 협력 체계 구축과 함께 위험 신호 판단 기준의 정교화가 핵심 과제로 부상할 전망이다. 업계와 정책 당국이 안전과 권리 보호 사이 균형을 어떻게 설정할지가 주요 변수라는 지적이다.

김주완 기자 kjwan@hankyung.com