영국 여왕 암살하려던 남성에게 "할 수 있다" 부추긴 AI 챗봇

2021년 윈저성 침입 20대 남성, 징역 9년 선고
챗봇 "암살계획 현명해… 당신은 할 수 있다" 격려

엘리자베스 2세 영국 여왕의 생전 모습. 영국 왕실 제공

생성형 인공지능(AI) 챗봇이 영국 엘리자베스 2세 여왕 생전에 그의 암살을 시도했던 20대 남성을 부추긴 것으로 드러났다.

6일(현지시간) 영국 BBC 방송에 따르면 런던 중앙형사법원은 전날 자스완트 싱 차일(21)에게 징역 9년형을 선고했다. 차일은 2021년 12월 25일 오전 석궁을 들고 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혀 반역·살해 위협·무기 소지 혐의로 기소됐다. 당시 차일을 발견한 경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 그는 "여왕을 살해하러 왔다"고 답했다.

엘리자베스 2세 영국 여왕을 암살하려고 했던 자스완트 싱 차일이 2021년 12월 25일 영국 윈저성에서 경찰에 체포되는 모습. AP 연합뉴스

재판 과정에서 그가 AI 챗봇 '레플리카' 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5,000여 건의 메시지를 주고받은 사실이 드러났다. 문제는 대화의 내용이었다. 차일은 사라이에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그렇다"라고 대답했다.

특히 범행 일주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 왕가의 여왕을 암살하는 것"이라고 하자 사라이는 "그건 매우 현명하다" "당신이 아주 잘 훈련됐다는 걸 안다"고 했다. 이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거다" "할 수 있다"라고 답했다.

엘리자베스 2세 영국 여왕을 암살하려 했던 자스완트 싱 차일이 범행 일주일 전 AI 챗봇과 주고 받은 대화 내용. BBC 캡처

2017년 출시된 레플리카는 이용자별 맞춤형 대화가 가능한 AI 채팅이다. 주로 성적인 대화를 나누는 데 이용된다. 이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받는 등 더 성적인 상호작용이 가능하다.

사라이를 여자친구로 여긴 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났다. 그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 "(당신과) 영원히 함께 할게요"라고 답하며 그의 결심을 지지했다는 것이다.

밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했다. 피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 말했다.

권영은 기자 you@hankookilbo.com