美 뉴멕시코주 변호사, AI 믿었다가 허위 증언 제출로 제재

항소 서류 맡겼더니 가짜 경찰 증언·증인 진술 넣어버려
법원, '법정 모독'으로 변호사 징계 및 벌금 부과

챗GPT 이미지. ⓒ AFP=뉴스1

(서울=뉴스1) 권영미 기자 = 미국 뉴멕시코주 대법원이 한 변호사가 인공지능(ChatGPT)을 이용해 허위 증언을 포함한 항소 서류를 제출한 사실을 확인하고 제재를 내렸다.

11일(현지시간) 로이터통신에 따르면 변호사 스티븐 애런스는 살인 사건 항소 과정에서 AI를 이용했다가 법원 서류에 존재하지 않는 경찰 증언과 가짜 목격자 진술을 포함했다. 대법원은 그를 법정 모독으로 규정하고 5000달러 벌금을 부과했으며, 변호사 징계위원회에 회부하기로 했다.

재판부는 판결문에서 "애런스가 허위 증언을 제출했을 뿐 아니라, 자신의 행위에 대해 반성이나 피고인에 대한 책임감을 보이지 않았다"고 지적했다.

애런스는 변호사는 8월 21일 열린 심리에서 컴퓨터로 생성된 녹취록과 기타 사건 자료를 챗GPT에 입력했으며, 이를 통해 "완벽한 요약본"이 생성될 것으로 예상했다고 법원에 진술했다. 하지만 판사들은 애런스가 AI가 오류를 일으킬 수 있다는 점을 충분히 인지하지 못했다는 사실에 대해 믿기 어렵다는 반응을 보였다.

주 대법원 결정 후 애런스는 로이터통신에 "AI가 사실을 할루시네이트(hallucinate·허위 생성)할 수 있다는 점을 충분히 알지 못했다"며 "실수였지만 교훈을 얻었다"고 말했다. 그는 "전문가들이 이 강력하지만 불안정한 기술을 사용할 때 반드시 검증해야 한다"고 덧붙였다.

이번 사건은 AI 생성 문서를 검증 없이 법원에 제출한 변호사들이 징계받는 사례가 늘고 있는 가운데 발생했다.

kym@news1.kr