챗GPT에 변호사가 당했다…알려준 판례 제출했더니 '가짜'

30년 경력의 미국 변호사가 법원에 내는 서류준비 과정에서 생성형 AI(인공지능)서비스인 챗GPT에 의존했다가 법원 청문회에 회부될 처지가 됐다. 챗GPT를 통해 인용한 판례가 실제론 존재하지 않은 '거짓 판례'임이 밝혀졌기 때문이다.

27일(현지시간) CNN과 뉴욕타임스(NYT)에 따르면 케빈 카스텔 뉴욕 맨해튼 연방 법원 판사는 거짓 판례가 담긴 서류를 제출한 스티븐 슈워츠 변호사에 대해 제재 문제를 논의하기 위해 내달 8일 청문회를 열 예정이다. 카스텔 판사는 NYT에 "슈워츠 변호사 측이 근거로 든 판례 중 적어도 6건이 가짜였다"면서 "이런 일은 법원에서 전례가 없는 상황"이라고 전했다.

챗GPT를 사용해 법원에 제출할 서류를 작성했다가 인용된 거짓 판례가 드러난 미국 변호사가 내달 법원에서 청문회에 회부되게 됐다. 셔터스톡

어떻게 된 일일까. 슈워츠가 변론을 맡은 사건은 2019년 엘살바도르에서 뉴욕행 아비앙카항공 670편 여객기에 탔던 승객 로베르토 마타의 소송 건이었다. 마타는 탑승 중에 서빙 카트에 부딪혀 무릎을 다쳤고, 이를 직원 잘못으로 돌리며 슈워츠 변호사를 선임해 항공사를 고소했다. 일반적인 항공사건 공소시효(2년)가 지나 제기된 소송에 맞서 항공사는 사건을 기각해달라고 맨해튼 연방 법원에 요청했다. 그러자 슈워츠 변호사는 "사건은 기각없이 그대로 진행돼야 한다"며 여러 판례를 인용한 문건을 법원에 제출했다.

SNS상에는 "변호사가 챗GPT로 판례를 조사해 서류를 제출했다가 판례가 존재하지 않는다는 사실이 알려지면서 난리가 났다"는 글이 올라왔다. 트위터 캡처

문제는 슈워츠 변호사가 인용한 판례 중 최소 6개가 거짓이었다는 점이다. 올해 3월 항공사 측은 슈워츠가 문건에서 근거로 제시한 판례를 찾을 수 없었다고 법원에 서한을 보냈다. 또 항공사 측이 꾸린 항공법 전문 변호인단이 "슈워츠의 문건은 챗GPT에 의존해 작성한 것으로 보인다"는 의혹을 제기하며 일이 커졌다고 NYT는 전했다.

결국 슈워츠 변호사는 지난주 법원에 서한을 보내 "업무를 보완하기 위해 챗GPT에 '자문'을 구했다"고 실토했다. 그는 "판례 조사와 관련해 챗GPT를 사용한 건 처음"이라면서 "챗GPT를 사용한 것은 매우 유감이며 향후 업무보완을 위해 AI를 사용하지 않겠다"고 법원에 선처를 구했다.

미국에서 챗GPT를 돌려서 나온 판례를 법원 서류에 넣었다가 해당 판례가 거짓 판례임이 드러난 변호사가 내달 청문회에 회부될 예정이다. 로이터=연합뉴스

뉴욕대 법학대학원 스티븐 길러스 법률 윤리학 교수는 NYT에 "챗GPT를 통해 나온 결과를 그저 법원 서류에 갖다 붙이기만 하면 안 된다"고 지적했다. NYT는 "(챗GPT가 도출한 거짓 판례를 인용했다가 발각된) 이번 사례는 AI 시대에도 화이트칼라 직업 중 일부는 살아남아 있을 수 있겠다는 걸 보여줬다"고 평했다.

이번 사례는 AI가 만들어낸 가짜뉴스, 거짓 정보로 인해 각종 부작용이 속출하는 가운데 나왔다. 앞서 지난 22일에는 미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다고 주장하는 가짜 사진이 소셜미디어를 중심으로 확산해 미국 증시 전체에서 주가가 일시적으로 하락하는 등 혼선이 빚어졌다. 생성형 AI가 만들어낸 가짜 이미지가 주식시장에 영향을 끼친 첫 사례였다.

또 지난달에는 호주 소도시 햅번셔 시장인 브라이언 후드가 2000년대 초 호주조폐공사(NPA) 뇌물 사건에 연루됐다는 거짓 정보를 챗GPT가 제공했다며 개발사를 상대로 명예훼손 소송을 추진하고 있다고 로이터 통신이 보도했다. 소송이 실제로 진행되면 생성형 AI에 대한 첫 명예훼손 소송이다.

서유진 기자 suh.youjin@joongang.co.kr