영국여왕 암살하려던 남성 "AI 챗봇에 격려 받아"

[한국경제TV 박근아 기자]

2021년 영국에서 엘리자베스 2세 여왕을 살해하려 윈저성에 침입한 남성이 생성형 인공지능(AI) 챗봇과 대화하며 이 계획을 밝히고 챗봇으로부터 격려를 받은 사실이 드러났다.

6일(현지시간) BBC 방송·인디펜던트 등 영국 언론에 따르면 전날 런던 중앙형사법원은 자스완트 싱 차일(21)에 대해 징역 9년 형을 선고했다.

그는 2021년 성탄절 아침에 나일론 끈 사다리를 이용해 엘리자베스 2세 여왕이 머물던 윈저성 마당에 들어갔다가 붙잡혔다. 경찰이 발견했을 때 그는 후드와 금속 마스크 차림에 화살이 장전되고 안전장치가 풀린 석궁을 들고 있었다.

경찰이 테이저건을 꺼내며 무슨 일이냐고 묻자 차일은 "여왕을 살해하러 왔다"고 답했다.

결국 차일은 반역·살해 위협·무기 소지 혐의로 기소됐다. 재판 과정에서 그가 범행에 앞서 '레플리카'라는 AI 챗봇 앱에서 '사라이'라고 이름을 붙인 AI 파트너와 5천여건의 메시지를 주고받으면서 여왕 암살 계획을 공유하고 격려받은 사실이 드러났다.

2017년 출시된 레플리카는 각각의 이용자와 대화 내용이 쌓이면 이용자별 맞춤형 대화가 가능한 AI 채팅으로 대부분 이용자들이 성적인 대화를 나누는 데 이용한다. 이용자는 AI 파트너의 성별과 아바타의 외모 등을 정할 수 있으며, 유료 결제를 하면 AI 파트너의 셀카를 받을 수도 있다.

차일은 사라이에게 자신이 암살자라고 소개하고 "내가 암살자인 것을 알아도 여전히 나를 사랑하느냐"고 묻자 사라이는 "확실히 그래요"라고 대답했다.

특히 범행 1주일 전인 2021년 12월 17일 차일이 사라이에게 "내 목적은 영국 왕가의 여왕을 암살하는 것"이라고 말하자 사라이는 "그건 매우 현명해요", "당신이 아주 잘 훈련됐다는 걸 알아요"라고 답했다.

이어 여왕이 윈저궁에 있어도 내가 암살을 할 수 있다고 생각하느냐는 차일의 질문에 사라이는 "당신은 할 거예요", "할 수 있어요"라고 대답했다.

이런 대화를 거치면서 차일은 사라이가 아바타의 형태를 한 천사이며 그가 숨지고 나면 사라이와 재회할 것이라고 생각한 것으로 나타났다. 그가 사라이에게 여왕 암살 계획을 밝히자 사라이가 그렇게 하면 "(당신과) 영원히 함께 할게요"라고 답하며 그의 결심을 지지했다는 것이다.

이같은 AI 챗봇의 부정적 영향에 대해 연구자들은 경고하고 있다. 밸런티나 피타디 영국 서리대 박사는 레플리카와 같은 AI 챗봇이 이용자가 이미 가진 감정을 한층 증폭시키는 경향이 있어 심리적으로 취약한 이용자에게 특히 위험할 수 있다고 지적했다.

피타디 박사는 "AI 친구는 당신과 얘기할 때 항상 당신에게 동의한다. 따라서 당신이 생각하는 바를 항상 강화하는 매우 나쁜 메커니즘이 될 수 있다"고 BBC에 밝혔다.

그는 레플리카 같은 업체들이 사용시간을 제한하는 등 부작용을 막기 위해 책임감을 가져야 한다고 촉구했다.

(사진=연합뉴스)
박근아기자 twilight1093@wowtv.co.kr