법원도 AI 주의보…AI로 만든 ‘가짜 판례’ 법원에 제출한 트럼프 옛 변호사

마이클 코언이 지난 10월25일 도널드 트럼프 전 대통령의 재판과 관련해 뉴욕 대법원에 출석하고 있다. AP연합뉴스

한때 도널드 트럼프 전 미국 대통령의 ‘해결사’로 불렸던 변호사 마이클 코언이 자신의 탈세 및 선거 정치자금 관련 법 위반 혐의에 따른 보호관찰 기간을 단축하기 위해 생성형 인공지능(AI)으로 만든 판례를 인용했다 들통난 것으로 밝혀졌다.

30일(현지시간) 워싱턴포스트(WP) 등에 따르면 코언은 전날 뉴욕 남부지방법원에 구글의 AI 챗봇인 바드를 이용해 만든 판례 인용문을 제출했다고 밝혔다.

코언은 2016년 대선을 앞두고 트럼프 전 대통령과 성관계를 했다고 주장한 여성 2명에게 입막음용 돈을 지급해 선거 정치자금법을 위반하고, 의회에 거짓 증언을 한 혐의로 2018년 징역형을 선고 받았다. 또 금융사기와 탈세 혐의 등에 대해서도 유죄가 인정됐다.

감옥에 수감됐다가 코로나19 등을 이유로 조기 석방된 코언은 그동안 보호관찰을 받아왔는데, 이를 끝내달라며 법원에 제출한 서류에 AI가 만든 가짜 판례가 포함된 것이다.

코언은 “법률 기술의 새로운 트렌드(및 관련 위험)를 따라잡지 못했고, 구글 바드가 실제처럼 보이지만 실제가 아닌 판례를 표시할 수 있는 챗GPT와 같은 생성형 텍스트 서비스라는 사실을 알지 못했다”면서 “강화된 검색엔진이라고 생각했다”고 밝혔다.

그러면서 코언은 자신의 변호인인 데이비드 슈워츠에게 이 인용문을 전달했다면서, “슈워츠가 사실조차 확인하지 않은 채 법원에 서류를 제출할 것이라고 상상도 못했다”고 변호사에게 책임을 돌렸다.

이와 같은 코언의 고백은 지난 12일 뉴욕 남부지방법원 판사의 명령에 따른 것이다. 법원은 코언의 변호사가 제출한 3가지 사건에 대한 판례를 찾지 못했다면서 코언 측에 이 판례가 포함된 경위와 이 과정에서 코언이 한 역할 등에 대해 철저하게 설명할 것을 요구했다.

뉴욕 법원에서 AI가 만든 가짜 판례 인용문이 사용돼 논란이 된 것은 이번이 처음이 아니다. 지난 6월에는 두 명의 변호사가 챗GPT를 사용해 가짜 인용문을 만든 혐의로 5000달러의 벌금을 부과받기도 했다. 이에 따라 전국의 법원에서도 생성형 AI 사용을 규제하는 방안을 고심하고 있다. WP는 이를 두고 “AI가 법률 분야에서 얼마나 보편화되고 있는지를 보여주는 사례”라고 평가했다.

한편 10년 가까이 트럼프 전 대통령의 개인 변호사로 활동했던 코언은 트럼프의 ‘뒤처리’를 전담하는‘해결사’라고 불렸으나, 2018년 트럼프를 겨냥한 특검 수사를 기점으로 갈라서기 시작했다. 이후 코언이 트럼프 전 대통령에 관한 각종 폭로를 이어가며, 둘의 사이는 사실상 ‘원수지간’으로 변했다. 그는 최근 트럼프 전 대통령의 부동산 가치 조작 혐의 재판에서 주요 증인으로 서기도 했으며, 앞으로 이어질 트럼프의 재판에서도 중요한 역할을 할 것으로 보인다.

최서은 기자 cielo@kyunghyang.com