변호사도 헷갈리는 AI 허위 판례 [세상에 이런 법이]

“세상에 이런 법이 어딨어.” 우리가 자주 하고 듣는 말. 네, 그런 법은 많습니다. 변호사들이 민형사 사건 등 법 세계를 통해 우리 사회 자화상을 담아냅니다.

법률 상담을 하러 오는 이들에게 새로운 공통점이 생겼다. AI를 통해 해당 사건에 대한 법률 상담을 한 차례 마치고 온다는 점이다. 네이버 지식인 카테고리가 인기를 끌던 때는 수많은 의뢰인들이 검색 내용을 출력해오거나, 머릿속에 담아서 왔다. 그때와 달라진 게 있다면 예전에는 “그거 너무 믿지 마세요”라고 답했지만, 최근에는 그러지 못한다는 점이다.

인공지능(AI) 시대를 지나 완전한 지적 주체를 지향하는 범용인공지능(AGI) 시대가 도래하는 변화 속에서(누군가는 벌써 그 시대에 왔다고도 한다), 엉덩이로 공부해 머리에 넣기도 바쁘고 그보다 더 빠른 속도로 망각하는 ‘인간 변호사’는 어떤 역할을 할 수 있을까. 그런 고민이 사치일지도 모른다. 직업으로서 변호사는 생존할 수 있을까.

얼마 전 공공기관에 근무하는 지인과 이야기를 나눈 적이 있다. 행정소송 사건을 담당해 법정에 출석했는데, 상대방 변호사가 챗지피티가 답변한 내용을 증거로 제출하려다 판사에게 제지당했다는 것이다. 나는 “제정신이야?”라고 웃으며 넘겼지만, 요즘 소송을 진행하다 보면 심심치 않게 AI가 작성한 느낌이 드는 서면과 자료들이 눈에 띈다. 이제 법률시장에서도 AI 사용은 피할 수 없는 대세다. 능력 있는 변호사는 AI를 사용하지 않는 변호사가 아니라, AI를 사용하지만 AI를 사용한 티가 나지 않는 변호사라고 할까.

생존 위기를 체감하면서 우선 능력 있는 변호사가 되기 위해 고군분투해본다. 하나의 AI만 사용하는 것은 위험하다. 각종 AI를 사용한다. 변호사들이 사용하는 전문 AI도 활용한다. 무료보다는 유료 버전을 쓴다. 텔레비전을 값싸게 보던 시대가 끝나고, 드라마 몇 개를 골라 보기 위해 월 구독료 수만 원짜리를 몇 개씩 구독하는 OTT의 시대가 된 것처럼 무료 검색엔진의 시대는 끝났다. 유료 AI 몇 개를 돌리다 보면 그 비용도 만만치 않다. 하지만 신입 변호사를 고용하는 비용에 비하면 턱없이 낮다. 변호사 수임료나 자문료에 비해서도 훨씬 낮은 가격이다.

그렇다면 고객 입장에서 값싸고 손쉬운 AI 대신 상대적으로 비싸고 접근성도 떨어지는 변호사를 선임해야 하는 이유는 무엇인가. 앞서 이야기한, 챗지피티가 답변한 내용을 증거로 제출한 변호사의 행위는 왜 “제정신이야?”라는 평가를 들어야 했을까. 이유는 간단하다. AI 답변에는 책임이 없다.

흔히 사용하는 생성형 AI 프로그램은 늘 사용자에게 경고한다. “AI는 실수할 수 있습니다.” 이를 법적인 용어로 풀어쓰면, “AI는 답변에 책임을 지지 않습니다”이다. 변호사뿐 아니라 사람은 본인의 업무에 대해 면책될 수 없다. 대가를 받고 하는 일에서 정해진 과업을 완성하거나, 주어진 업무를 위임받아 수행할 때도 책임이 따른다.

물론 사람도 실수를 한다. 그렇지만 인간 변호사에게 면책은 없다. 변호사에게 AI는 면책의 그늘이나 우산이 될 수 없다.

최근 지방 소재 형사재판부에 변호사가 생성형 인공지능이 만든 허위 판례를 인용한 서면을 법원에 제출했다가 적발되는 사건도 있었다. 만약 변호사가 AI를 통해 확인된 판례가 허위였다는 점을 알고도 서면을 제출했다면 이는 ‘소송사기’에 해당할 수 있다. 미국에서는 유사 사례에서 해당 변호사에게 벌금을 선고했고, 영국 법원 또한 법정모독죄에 해당할 수 있음을 엄중 경고했다. 언론보도에 따르면 우리나라 법원 역시 가짜 판례나 가짜 법리를 걸러내기 위한 기술적 조치를 검토 중이다. AI를 사용하는 변호사로서 정신이 번쩍 드는 대목이다.

AI는 답변에 책임지지 않는다

그래서 이 글을 읽는 ‘고객님’들에게 호객 행위를 해보자면, AI는 변호사들이 열심히 돌려볼 테니 저희 직함에 걸린 그 책임감을 구매해달라고 말하고 싶다. 오늘도 변호사들은 AI 여러 개를 사용하며 혼내고 꾸짖는다. “그런 판례는 없어. 그 법률 조항은 폐기된 지 오래야.” 그러면 AI는 상냥하게 답한다. “날카로운 지적이시네요.” “매우 정확한 지적입니다.” 이 같은 답변에는 미안함도, 반성도, 그리고 책임도 없다. 가슴을 쓸어내리며 판례를 다시 찾고 조문을 다시 검토한다.

변호사는 업무에 대해 책임을 져야 한다. 책임의 다른 말은 신뢰일 수 있다. AI가 줄 수 없는 신뢰를 준다면, 변호사에게도 아직 밥벌이할 기회는 남아 있는 게 아닐까.

권혜진 (변호사) editor@sisain.co.kr