“AI에 일기 썼다가 경찰 신고”…챗봇 대화, 어디까지 비밀일까

오픈 AI의 챗 GPT(왼쪽)와 엔트로픽의 클로드 로고/ 로이터 연합뉴스

미국 플로리다의 한 여성이 인공지능(AI) 챗봇 클로드를 일기처럼 사용하다가 경찰에 신고돼 중범죄 혐의로 기소됐다.

6일(현지 시각) 외신에 따르면, 이 여성은 지난달 26일 클로드와 대화하던 중 보안관 사무실을 총격하겠다는 취지의 내용을 입력했다. 클로드의 안전 시스템이 이를 위험 신호로 감지했다. 앤스로픽은 사망이나 심각한 신체 피해를 막기 위해 필요하다고 판단되는 제한적 긴급 상황에서는 이용자 정보를 공유할 수 있다는 정책을 두고 있기 때문이다.

이후 인간 검토자가 실제 위협 가능성이 있다고 판단해 수사기관에 신고했고, 경찰은 자택에서 여성을 체포했다. 여성은 경찰 조사에서 클로드를 “일기처럼 사용했다”고 진술한 것으로 전해졌다.

다만 AI가 스스로 경찰에 신고한 것은 아니고 안전 시스템이 먼저 위험 신호를 잡아낸 뒤 사람이 내용을 확인하고 신고를 결정한 것으로 알려졌다.

AI 챗봇이 검색 도구를 넘어 친구·상담자·일기장처럼 이용되면서 새로운 문제가 생기고 있다. 이용자의 대화 내용을 AI 기업이 어디까지 탐지하고 어떤 기준으로 수사기관에 알려야 하느냐는 문제다.

워싱턴포스트는 “최근 AI 챗봇과의 대화가 이용자에게는 친구나 상담자와의 사적인 대화처럼 느껴지지만, 법적으로나 기술적으로 반드시 비밀이 보장되는 공간은 아니다”라고 지적했다. 실제 최근 2년간 미국 법원 기록에서 챗봇 대화가 증거로 등장한 사례가 최소 12건 확인됐고, 일부 경우에는 AI 기업이 위험한 내용을 직접 수사기관에 신고하기도 했다. AI 챗봇이 이용자의 가장 사적인 고민까지 받아들이는 서비스로 발전할수록, ‘사적인 대화’와 ‘위험 징후를 외부에 알릴 의무’ 사이의 경계가 새로운 프라이버시 쟁점이 되고 있는 것이다.