미국선 AI로 ‘가짜 판례’ 만들었다 들통 논란 [심층기획-법조계 ‘리걸테크’ 바람]

생성형 AI 기술 맹신 경계 목소리
“인간 판단 필요한 ‘회색지대’ 존재”

법조계가 인공지능(AI) 도입에 신중한 건 신뢰성 때문이다. 국내보다 AI 산업화 속도가 빠른 미국에서는 생성형 AI로 만든 ‘가짜 판례’가 논란을 일으키기도 했다.

마이클 코언. EPA연합뉴스

도널드 트럼프 전 미국 대통령의 측근인 마이클 코언은 지난해 12월 선거자금법 위반 혐의에 따른 보호관찰을 조기에 종료시켜 줄 것을 요구하며 구글의 AI 챗봇인 ‘바드’를 이용한 가짜 판례를 맨해튼 연방법원에 제출했다 들통이 났다.

재판부는 코언의 변호사가 제출한 3가지 사건에 대한 판례는 존재하지 않는다며 이를 각하했다. 그러면서 코언 측 변호사에게 이 판례가 포함된 경위와 과정에 대한 설명을 요구했다.

코언은 “구글 바드가 실재하지 않지만 실재하는 것처럼 보이는 판례를 표시할 수 있는 챗GPT 같은 생성형 텍스트 서비스라는 것을 알지 못했다”고 주장하면서 법원에 공식 사과했다.

존 로버츠 미 연방대법원장은 지난해 발간한 연말 보고서에서 해당 사례를 꼬집으며 법률 분야에서 사용되는 생성형 AI 기술의 위험성을 경고하기도 했다. 그는 AI 기술이 저소득층의 사법 접근성과 사법 행정의 효율성을 제고하는 건 맞지만, 사실이 아닌 정보를 마치 사실인 것처럼 답변하는 ‘환각 현상’이 빈번한 만큼 AI를 맹신해서는 안 된다고 강조했다. 로버츠 대법원장은 “법적 판단에는 종종 인간의 판단을 적용해야 하는 ‘회색지대’가 존재한다”며 추론 영역에서만큼은 여전히 인간 판사가 필요하다고 역설했다.

그럼에도 리걸테크를 기반으로 한 글로벌 법률 AI 시장은 날로 확대되는 추세다. 2021년 7000억원 규모에서 2032년까지 약 8조4000억원 규모까지 성장할 전망이다. 다국적 언론기업인 톰슨로이터는 지난해 6월 미국 리걸테크 기업 케이스텍스트를 약 8600억원에 전격 인수했다.

글로벌 법률 정보 기업 렉시스넥시스도 지난해 10월 생성형 AI 기반의 ‘렉시스 플러스 AI’를 발표했다. 미국 판례와 연방 법조문, 주석서 등을 탑재한 렉시스 플러스 AI는 대화를 통해 법률 정보를 검색하고 법률 관련 콘텐츠를 생성할 수 있다.

장혜진 기자 janghj@segye.com