“제미나이 썼다” 실토한 변호인…법원은 ‘유령 판례’와 싸운다 [AI가 바꾼 법정]

울산지방법원에서는 한 변호인이 엉뚱한 대법원 판결을 인용한 뒤, 재판장이 질문하자 “구글 제미나이로 판결을 검색한 뒤 제대로 내용을 확인하지 않았다”고 인정하는 일이 있었다. 챗GPT 생성 이미지

소송에서 AI를 활용하는 경우가 늘어나며 법원도 대응에 나섰다. 특히 AI의 확산으로 유입된 ‘유령 판례’는 법원에 새로운 과제를 던지고 있다.

━

넘치는 가짜 판례…변호인이 “제미나이 활용” 실토하기도

법원행정처에 따르면 각급 법원에서는 당사자와 변호인들이 AI의 환각(hallucination)이 만들어낸 허위 판례를 인용하는 사례가 다수 보고되고 있다. 대구고법에서는 소송 대리인이 존재하지 않는 사건번호인 ‘대법원 2000다57763’ 판결을 인용하고, 재판부로부터 석명 요청을 받자 ‘대법원 2012다11454’라는 허위 판례를 재차 인용하는 사례가 나왔다.

허위 법 조문을 써서 재판부에 내는 사례도 있다. 광주지법에서는 민사소송법 451조에 정해진 재심사유를 실제 내용과 전혀 다른 내용으로 적어낸 사례가 보고됐다. 울산지방법원에서는 한 변호인이 엉뚱한 대법원 판결을 인용한 뒤, “구글 제미나이로 판결을 검색한 뒤 제대로 내용을 확인하지 않았다”고 인정한 일도 있었다.

법원에서는 AI가 만들어낸 유령 판례를 검증하는 과정에서 심리에 비효율이 발생할 수 있다는 우려가 나오고 있다. 챗GPT 일러스트

판결문에 “가짜 판례를 제시했다”고 공개적으로 지적하는 일도 적지 않다. 서울남부지법의 한 재판부는 지난 1월 4100만원 투자금을 둘러싼 금전 소송 판결문에서 원고 승소 판결하며 “피고의 주장은 존재하지 않는 판례를 원용한 것”이라고 직격했다. 인천지법 부천지원에서도 판결문에서 “피고가 근거로 제시한 대법원 2002다72180 사건은 찾을 수 없는 판례”라고 명시했다.

이렇듯 허위 판례가 늘어나면 판사들이 사건번호를 일일이 검증해야 하기 때문에 비효율이 발생할 수 있다는 우려가 나온다. 한 현직 부장판사는 “변호인 없이 제기하는 ‘나홀로 소송’은 물론이고, 대리인이 있는 경우에도 가짜 판례를 인용하는 사례가 적지 않게 있다”며 “법관들이 사건번호가 단순 오타일 가능성까지 염두에 두고 확인 절차를 거치다 보면 검증에 지나치게 많은 시간을 쓰게 될 것”이라고 했다.

━

법원, ‘과태료 부과’ 소송법 개정 추진 중

법원은 지난 2월 사법정보공개포털에 ‘허위 사건번호 확인’ 기능을 추가했다. 당사자가 법원에 서류를 제출하기 전 스스로 오류를 수정하라는 취지다. 사법정보공개포털 캡처

법원은 지난 2월 사법정보공개포털에 ‘허위 사건번호 확인’ 기능을 추가하고, 법관들에게 AI를 활용한 허위 판례 검증 방법을 안내하는 가이드북을 배포했다. 가이드북에는 판례의 진위를 확인할 수 있는 프롬프트 예시와 활용 시 유의사항이 담겼다.

허위 법령·판례 제출 시 과태료를 부과하는 소송법 개정도 추진 중이다. 당사자나 대리인이 AI를 활용한 경우 이를 법원에 알리도록 하는 규칙 개정도 검토하고 있다. 각 재판부도 재량에 따라 여러 제재를 가할 수 있다. AI 오남용으로 소송 지연이나 비용이 발생하면 소송비용을 부담시키거나 변론 제한, 변호사 징계 의뢰 등의 제재가 가능하다.

한편 법원은 내부용 AI 도입에도 속도를 내고 있다. 법원행정처는 지난 2월 대법원 판례 및 판결문, 실무제요와 주석서 등을 탑재한 ‘재판지원 AI 시스템’을 시범 개통했다. 생성형 AI 도입 역시 추진 중이다. 지난해 관련 예산 161억원을 확보했고, 4단계 중 1단계 사업을 마무리하고 지난 2월 서비스를 개통했다.

AI를 활용해 대국민 판결문 검색 기능도 고도화할 계획이다. 기존 검색 시스템은 정확한 키워드를 입력하지 않으면 원하는 판결문을 찾기 어렵다는 지적이 있었다. 지난 9일 법원행정처는 “질의 의도를 AI가 분석해 관련 판결문을 찾아주는 지능형 판결문 검색 시스템 개발을 추진 중”이라고 밝혔다.

최서인 기자 choi.seoin@joongang.co.kr