챗GPT가 만든 가짜 판례… 판사한테 망신 당한 변호사

"AI로 법조계도 전례 없는 상황 직면"

미국에서 30년 경력의 변호사가 생성형 인공지능(AI) 챗봇 챗GPT를 이용해 만든 서면을 법원에 냈다가 망신을 당한 것으로도 모자라 징계에 처해질 수 있는 상황에 내몰렸다.

28일 영국 BBC 방송에 따르면 뉴욕의 한 법무법인(로펌)에 근무하는 S변호사는 “항공사 잘못으로 상해를 입었다”고 주장하는 의뢰인을 대리하게 됐다. 소장을 작성해 법원에 접수한 S변호사는 과거 유사한 사건과 그에 대한 법원 판례 등을 정리한 서면도 제출했다.

gettyimagesbank 제공

그런데 얼마 지나 담당 판사한테서 연락이 왔다. 판사는 S변호사에게 “당신이 서면에 인용한 사건 및 판례 가운데 6건은 실제 존재하지 않는 것으로 드러났다”며 허위 인용에 대한 해명을 요구했다.

S변호사는 실토하지 않을 수 없었다. 그는 “과거 사건과 판례들을 검색하는 과정에서 챗GPT를 활용했다”며 “법률가로서 제가 직접 검증하지 않고 챗GPT에만 의존한 것은 명백한 잘못”이라고 시인했다. 이어 “앞으로는 서면 작성에 AI를 결코 활용하지 않겠다”고 다짐했다.

그는 “챗GPT에서 알려준 내용이 거짓일 수도 있다는 점을 미처 알지 못했다”고 해명했으나, 챗GPT는 사용자의 요청으로 원본 텍스트를 생성할 때 ‘잘못된 정보일 수 있다’는 취지의 경고도 함께 제공한다. 담당 판사는 S변호사를 직접 법정으로 불러 자초지종을 따지는 심문을 한 뒤 징계 절차를 개시할지 여부를 결정할 방침인 것으로 알려졌다.

2022년 첫 출시 이후 전 세계에서 수백만명이 챗GPT을 사용하고 있으며 이는 법조계도 예외가 아니다. 한 판사는 “존재하지도 않는 사건이 변호사가 제출한 서면에 버젓이 등장하는 등 (AI로 인해) 법조계가 전례 없는 상황에 직면했다”고 말했다. 전문가들은 “잘못된 정보와 편견의 확산 등 AI의 잠재적 위험에 대한 우려가 존재한다”고 지적한다.

김태훈 기자 af103@segye.com