트럼프 측근도 AI 환각에 당했다... “가짜 판례 법원 제출했다 들통”

마이클 코언./AP 연합뉴스

도널드 트럼프 전 미국 대통령의 ‘해결사’이자 측근으로 유명한 변호사 마이클 코언이 탈세 및 선거 정치자금 관련 법 위반 혐의에 따른 보호 관찰을 끝내기 위해 법원에 제출한 서류에 생성형 인공지능(AI)이 만들어낸 가짜 판례가 포함된 것으로 나타났다.

30일(현지 시각) 워싱턴포스트(WP)는 코언은 전날 뉴욕 남부지방법원에 제출한 서류에서 자신이 구글의 AI챗봇인 ‘바드’를 이용해 판례 인용문을 만들었다고 밝혔다. 코언이 자신의 변호사 중 한 명인 데이비드 슈워츠에게 바드가 만든 인용문을 전달했고, 슈워츠는 코언을 대신에 법원에 인용문이 포함된 서류를 제출했다는 것이다.

하지만 뉴욕 남부지방법원 제이 퍼먼 판사는 “슈워츠가 인용한 세가지 사건 중 하나도 실제로 찾을 수 없다”며 ‘철저한 설명’을 요구했다. 이에 따라 코언은 실제로 판례를 검색한 것이 아닌 AI가 생성한 내용을 그대로 갖다 붙였다는 점을 인정하게 된 것이다. 코언은 “구글 바드가 생성형 텍스트 서비스라는 사실을 깨닫지 못했다”며 “구글 바드가 또 하나의 강력한 검색 엔진처럼 보였다”고 설명했다.

생성형 AI가 존재하지 않는 판례를 지어낸 것은 이번이 처음이 아니다. 지난 6월 챗GPT를 사용해 가짜 판례를 인용한 서류를 제출한 변호사들이 5000달러의 벌금을 무는 일도 있었다. 테크 업계 관계자는 “AI가 어떻게 작동하는지 아무도 제대로 알지 못하는 상황에 AI의 답변을 100% 신뢰하며 생긴 일”이라며 “거짓말을 진짜처럼 대답하는 전형적인 ‘AI환각’ 사례”라고 했다.