“비싼 돈 받아가면서 이래도 되나”…AI가 쓴 가짜 판례 제출한 유명 로펌

뉴욕 남부연방파산법원. [로이터 연합뉴스]

미국의 유명 로펌이 캄보디아 스캠(온라인 사기) 범죄 의혹 기업 관련 소송을 대리하던 중 인공지능(AI)이 만든 허위 법령 및 판례를 미 법원에 제출한 사실이 드러나 사과문을 작성했다.

21일(현지시간) 로이터통신에 따르면 미국 뉴욕의 유명 로펌인 설리번 앤드 크롬웰(이하 S&C) 글로벌 구조조정 부문의 앤드루 디트데리히 대표 변호사는 지난 18일 마틴 글렌 뉴욕 남부연방파산법원장에 보낸 서한에서 자사 변호사가 AI로 생성된 부정확한 인용을 포함한 문서를 법원에 제출했다며 이에 유감을 표하고 재발 방지를 약속했다.

S&C는 캄보디아 대규모 스캠 범죄단지의 배후로 지목된 프린스그룹의 청산과 관련해 그룹 법인 소재지인 영국령 버진아일랜드 당국이 선임한 파산관재인이 프린스그룹과 프린스그룹 회장 천즈(陳志·38)를 상대로 제기한 소송에서 파산관재인 측의 대리를 맡은 바 있다.

문제는 S&C가 지난 9일 법원에 제출한 문서에서 미 파산법에 존재하지 않는 조항을 인용하거나 존재하지 않는 판례를 인용했다가 프린스그룹을 대리한 상대 로펌으로부터 문제를 지적당했다는 점이다. 디트데리히 변호사는 사과 서한에서 오류 배경으로 AI 환각(할루시네이션) 현상이 있었다고 인정했다. AI 환각은 AI가 잘못된 정보를 그럴듯하게 제시하는 현상이다.

변호사가 AI 환각 현상으로 생성된 허위 법령·판례를 제출하는 사례는 국내외에서 적지 않게 보고되고 있지만, 막대한 수임료를 챙기는 미국의 유명 로펌조차 중요 사건에서 오류를 걸러내지 못한 것으로 드러나 충격을 주는 분위기다. 다만 S&C 변호인이 어느 AI 모델을 사용했는지는 확인되지 않았다.

한편 천즈 회장은 캄보디아에서 고위 정치권과 밀착해 사업을 키우고 대규모 사기 범죄단지를 운영하면서 막대한 부를 쌓은 것으로 전해진다.

천즈 회장은 최근 캄보디아에서 체포돼 중국으로 송환된 상태다.

미 연방검찰도 천즈 회장을 사기 및 자금세탁 혐의로 지난해 미 법원에 기소하는 한편 범죄수익 몰수를 위한 민사소송도 제기한 것으로 알려졌다.