[변호인들] AI 시대의 소송, ‘할루시네이션’이라는 그림자

바야흐로 인공지능(AI) 시대다. AI는 산업 전반에 혁신적인 변화를 가져오고 있으며, 법률 분야도 예외는 아니다. 방대한 판례와 법령을 순식간에 분석하고, 복잡한 법률 서면의 초안을 작성하는 AI의 능력은 분명 매력적이다. 하지만 이 편리함 뒤에는 '할루시네이션(Hallucination)', 즉 '환각'이라는 치명적인 그림자가 도사리고 있다.

할루시네이션이란 생성형 AI가 사실이 아닌 정보를 사실인 것처럼 그럴듯하게 생성하는 현상을 말한다. 법률분야에서 할루시네이션의 대표적 사례는 AI가 존재하지 않는 사실이나 판례를 마치 실제인 것처럼 그럴듯하게 생성해내는 것이고, 이는 최근 법률 실무에서 문제를 야기하고 있어 각별한 주의가 요구된다.

최근 해외 법조계를 떠들썩하게 만든 사건이 있었다. 미국 뉴욕의 한 변호사는 민사소송에서 AI를 활용해 소송 서면을 작성했다. 서면에는 여러 판례가 인용되었지만, 확인 결과 대부분이 존재하지 않는 '가짜 판례'였다. 결국 해당 변호사는 법원으로부터 징계를 받았고, 이는 법조계에 큰 경종을 울렸다. 영국에서도 유사한 사례가 발생하자, 고등법원은 AI가 생성한 허위 자료를 변론에 활용하는 변호인은 법정모독죄로 기소될 수 있다고 이례적으로 강력히 경고하기에 이르렀다. 한국에서도 변호사가 존재하지 않는 판례를 인용한 사례가 발각되었다.

이러한 '가짜 판례'의 사용은 단순히 변호사 개인의 망신으로 끝나지 않는다. 이는 재판의 근간을 이루는 법적 근거를 오염시켜 사법시스템에 대한 신뢰를 무너뜨릴 수 있다.

잘못된 판례에 기초한 판결은 의뢰인에게 회복할 수 없는 피해를 줄 뿐만 아니라, 법원은 불필요한 시간과 노력을 낭비하게 된다. 단순히 편리하다는 이유로 AI가 생성한 정보를 무분별하게 사용했다가 돌이킬 수 없는 결과를 낳을 수 있음을 명심해야 한다.

상황의 심각성을 인지한 우리 사법부도 발 빠르게 움직이고 있다. 법원은 지난 2025년 '사법에서의 인공지능 활용에 관한 가이드라인'을 발표했다. 이 가이드라인은 AI가 재판의 효율성을 높이는 유용한 도구임을 인정하면서도, 그 불완전성을 명확히 지적하고 있다. 핵심은 AI는 판단을 '보조'하는 수단일 뿐, 최종적인 판단과 그에 대한 책임은 전적으로 '사람'에게 있다는 것이다. 또한 AI가 생성한 결과물에 오류나 편향이 있을 수 있음을 항상 인지하고 비판적으로 검토해야 한다고 강조한다.

이는 비단 법조인에게만 해당되는 이야기가 아니다. 나홀로 소송에서 AI를 무비판적으로 맹신해 AI가 만든 가짜 판례를 믿고 재판에 임한다면, 잘못된 지도를 들고 여행을 떠난 것과 다름이 없다. 그렇다면 과연 재판에서 좋은 결과를 얻을 수 있을까?

그렇다면 우리는 어떻게 AI라는 새로운 도구를 현명하게 활용할 수 있을까? 다음 몇 가지 사항을 제언하고자 한다.

첫째, AI를 '초안 작성 도구' 이상으로 생각해서는 안된다. 아이디어를 얻거나 복잡한 내용의 뼈대를 잡는 데는 유용할 수 있지만, 최종 결과물은 반드시 법률 전문가의 지식과 경험을 통해 완성되어야 한다. AI는 당신의 유능한 비서가 될 수는 있어도, 당신의 두뇌를 대체할 수는 없다.

둘째, 철저한 '교차 검증'을 습관화해야 한다. AI가 제시한 모든 정보, 특히 판례나 법령과 같은 핵심 근거는 반드시 공식적인 경로를 통해 원문과 대조 확인해야 한다.

AI 기술의 발전은 거스를 수 없는 시대의 흐름이다. 법률 분야에서의 AI 활용 역시 더욱 확대될 것이다. 중요한 것은 기술에 맹목적으로 의존하는 것이 아니라, 기술을 정확히 이해하고 통제하며 활용하는 능력이다.

김경돈 변호사