美대법원장 “AI, 법을 비인간적으로 만들 수 있어”

존 로버츠 미국 대법원장이 지난해 조 바이든 미국 대통령의 미 의회 국정연설장에 들어서고 있다. /로이터 연합뉴스

존 로버츠 미국 대법원장이 지난달 31일(현지 시각) 발표한 연방사법부의 ‘2023년 연말 보고서’를 통해 인공지능(AI)의 발전으로 인한 사법 체계의 변화에 우려를 나타냈다. 로버츠 대법원장은 “AI는 분명히 변호사와 변호사가 아닌 사람에게 똑같이 핵심 정보에 대한 접근성을 극적으로 높여주는 대단한 잠재력을 갖고 있다”면서도 “그러나 사생활권을 침해하고 법을 비인간적으로 만들 위험성도 그만큼 분명히 존재한다”고 썼다. 그는 이어 “AI의 어떠한 사용도 주의와 겸손을 요구한다. 유명한 AI 서비스 중 하나는 올해 허위 정보를 생성한다는 단점 때문에 머리기사를 장식했고, 변호사들이 존재하지 않는 판례로 변론서를 작성해 제출하도록 만들었다”고 경고했다.

미국 법조계가 AI를 얼마나 사용하고 있는지에 대한 통계는 없다. 변호사나 의뢰인 등이 AI를 활용하더라도 이를 밝히지 않는 경우가 적지 않아서다. 로버츠 대법원장이 보고서의 주제로 이 문제를 다룬 것은 변호사들이 변론서 작성에 AI를 이용했다가 허위 판례가 포함돼 문제가 되는 일들이 지난해 여러 건 발생했기 때문으로 짐작된다. 지난해 6월 민사소송을 맡았던 뉴욕의 한 변호사는 생성형 AI인 챗GPT를 통해 파악한, 고객에게 유리한 판례가 담긴 변론서를 법원에 제출했다가 실제 존재하지 않는 판례란 사실이 드러나 벌금을 선고받았다. 지난해 12월엔 도널드 트럼프 전 대통령의 옛 측근으로 유명한 마이클 코언 변호사가 구글 AI인 바드를 이용한 변론서를 제출했다가 허위 판례로 밝혀져 구설에 올랐다.

로버츠 대법원장은 변호사들이 의뢰인의 기밀 정보를 AI에 입력할 경우 변호사의 비밀 유지 의무에 저촉될 소지가 있다는 점, 아울러 판결을 할 때 중요한 요소인 ‘인간적 판단’을 AI가 제대로 할 수 없다는 점 등도 ‘AI 법조인’의 문제로 지목했다. 그는 “예를 들어 판사는 선고 시 피고 진술의 진정성을 측정해야 하는데 이때 떨리는 손과 목소리, 어조의 변화, 한 방울의 땀, 잠깐의 주저함, 순간적인 시선 회피 등 뉘앙스가 중요하다”고 했다. 이런 요소들을 AI가 판단하기는 무리라는 뜻이다.