“AI 챗봇과 나눈 대화가 법정 증거로 활용될 수 있을까”… 미 법조계 갑론을박

/제미나이 생성

챗GPT 같은 인공지능(AI) 챗봇과 나눴던 속 깊은 이야기가 사건 발생 시 법정 증거로 활용될 수 있을까.

최근 미 연방 판사가 AI 챗봇과 대화는 비밀 보호 특권이 적용되지 않는다고 판결해 미 법조계를 중심으로 AI와 나눈 대화가 재판에서 불리한 증거로 사용될 수 있다는 경고가 나오고 있다고 로이터가 15일(현지 시각) 보도했다. AI가 생활 전반에 적지 않은 영향을 미치고 AI에 자신의 은밀한 속마음을 털어놓는 사람이 많아지면서 AI와 나눈 대화 기록이 전화 통화나 스마트폰 문자 메시지와 같은 결정적인 공식 증거가 될 수 있는지에 대한 논의가 확산되는 것이다.

로이터에 따르면 지난 2월 10일 미국 뉴욕 남부연방지법 제드 라코프 판사는 파산한 금융 회사 GWG홀딩스의 전 회장 브래들리 헤프너 사건을 심리했다. 헤프너는 작년 11월 증권·통신 사기 혐의로 기소됐고 무죄를 주장했다. 헤프너는 변호사 지시 없이 앤스로픽의 AI 챗봇 클로드로 자신과 관련된 사건 보고서를 작성해 변호사들과 공유했는데, 검찰이 이 대화 기록을 요구하면서 쟁점이 됐다. 헤프너 측은 AI 대화에 변호 전략 등의 정보가 포함돼 있어 비밀 보호 대상이라고 주장했지만, 재판부는 인정하지 않았다. 제드 라코프 판사는 헤프너 측에 클로드로 생성한 문서 31개를 증거로 제출하라고 판결했다.

재판부는 “AI 사용자와 클로드와 같은 AI 플랫폼 사이에는 변호사와 의뢰인 같은 관계가 존재하지 않고, 존재할 수도 없다”고 했다. 해당 대화 기록이 비밀로 인정받을 수 없다는 것이다. 재판부는 또 “클로드 약관에 따라 AI 프라이버시 보호 기대를 가질 수 없다”고도 했다. AI 챗봇에 해당 내용을 공유했을 때부터 비밀로서의 가치가 약화된다는 것이다. 해당 문서에는 사건의 자세한 상황이 담겨 있어 헤프너 측에 불리하게 작용할 것으로 예상된다. 로이터는 “이 결정은 AI 챗봇 시대에 변호사와 의뢰인 간 소통과 AI를 활용한 자료에 대한 법적 판단의 초기 시험대였다”고 평가했다.

반면 같은 날 미 미시간주 동부지구 남부연방지원 앤서니 패티 판사는 정반대 판결을 내렸다. 한 여성의 고용 차별 소송을 진행하며 해당 여성이 챗GPT와 나눈 대화 기록을 제출할 필요가 없다고 판결했다. 이 사건은 변호사 없이 해당 여성이 스스로 챗GPT의 도움을 받아 소송을 진행한 것이었다. 패티 판사는 해당 여성이 AI와 대화한 것이 비밀 유지를 포기한 것이 아니라고 보고, 해당 자료 제출을 요구하지 않았다. 그는 판결문에서 “챗GPT와 다른 생성형 AI 프로그램은 도구일 뿐 사람이 아니다”라고 했다.

엇갈리는 판결 속에서 미 로펌들은 대책 마련에 나섰다. 주로 AI에 변호사와 대화 내용을 이야기하지 말고, 사건 관련 질문을 하지 말라는 것이다. 최근 뉴욕의 셔 트레몬테 로펌은 계약서에 “변호사와 대화 내용이나 조언을 AI 챗봇과 공유하는 것은 법적 보호 장치를 무효화할 수 있다”고 명시했다. 또 뉴욕에 본사를 둔 로펌 데비보이즈 앤 플림턴은 웹사이트에 “사건 관련 AI 사용을 할 경우, ‘저는 소송 담당 변호사의 지시에 따라 이 조사를 진행하고 있다’는 내용의 프롬프트 문장을 넣으라”는 공지글을 띄웠다. 로이터는 “변호사들은 오래된 격언이 여전히 유효하다고 말한다”며 “바로 사건에 대해서 변호사 외에는 AI를 포함해 누구와도 이야기하지 말라는 것”이라고 했다.