법정에 버젓이 등장한 'AI 가짜 판례'

허위 인용에, 사건번호도 거짓
재판부는 즉시 원고 패소 판결
"AI 결과물 '검증 의무' 필요"

생성형 인공지능(AI)이 만들어낸 이른바 ‘가짜 판례’가 재판 서면에 인용되는 사례가 잇따르면서 사법 신뢰를 흔들고 있다. AI 결과물의 오류로 밝혀질 경우 책임 주체가 명확히 규정되지 않아 법정에서 혼란이 빚어진다는 지적이 나온다.

8일 대법원 법원행정처에 따르면 최근 재판 실무에서 생성형 AI가 만든 허위 법령·판례 인용 사례가 다수 확인됐다. 일부 사건에서는 존재하지 않는 사건번호가 기재되거나, 기존 판례를 조합한 ‘가짜 판례’가 서면에 포함됐다. 이로 인해 재판부가 사실 여부를 다시 확인하는 과정에서 추가 변론이 진행되는 등 재판 지연과 행정 낭비로 이어지기도 했다.

지난해 8월 서울북부지법 민사 사건에서는 원고 측이 제출한 서면에 포함된 대법원 판례가 존재하지 않는 사건번호인 것으로 드러났다. 재판부는 판결문에 이 판례가 존재하지 않는다고 명시하고 원고 패소 판결했다.

해외에서는 제재 사례도 나왔다. 미국 뉴욕 남부연방법원은 2023년 생성형 AI가 만들어낸 허위 판례를 검증 없이 제출한 변호사에게 제재금 5만5000달러(약 8000만원)를 부과했다.

문제는 이 같은 상황을 직접적으로 규율하는 법적 틀이 아직 부족하다는 점이다. 법정에서조차 허위 정보 책임을 둘러싼 기준이 불명확한 만큼, 산업 전반에서도 비슷한 분쟁이 확산할 수 있다는 우려가 나온다.

법원과 당국은 AI 활용 자체를 금지하지는 않되, 정확성 입증 책임은 제출 당사자에게 있다는 입장이다. 즉 AI 활용 여부가 문제가 아니라 결과 검증 의무를 명확히 해야 한다는 것이다. 법원행정처는 민사소송규칙을 개정해 소송서류에 AI를 사용했음을 고지하고, 서면 제출자가 내용의 정확도를 검증해야 한다는 조항을 명시할 계획이다. 또한 민·형사소송법을 개정해 허위 인용이 확인되면 피고인 또는 변호인에게 과태료를 부과하는 등 제재하는 방안도 검토 중이다.

최경진 가천대 법학과 교수는 “허위 소송서류의 책임 주체가 변호사라는 것을 명문화해 신중한 검토를 요구해야 한다”며 “변호사에 대한 의뢰인의 손해배상책임 논의로도 이어질 수 있다”고 말했다.

김유진 기자 magiclamp@hankyung.com