"너 답변 진짜야?" 확인하자 "응"이라고 또 거짓말한 챗GPT

미국 30년차 변호사, 챗GPT 판례 믿었다 '망신'
"챗GPT 결과물, 허위일 가능성 생각 못 했다"

생성 인공지능(AI) 챗GPT가 판례와 법령을 학습한다면 변호사를 대신할 수 있을까. 다른 사무직 노동자의 일자리도 AI에게 뺏기게 될까. 그런 걱정은 잠시 내려놓아도 될 듯하다. 챗GPT를 믿고 변론서 작성을 맡겼던 미국의 30년 차 베테랑 변호사가 챗GPT의 거짓말에 속아 망신을 당했다. 챗GPT를 '사람만큼' 신뢰하기엔 이르다는 뜻이다.

'챗GPT 믿었는데…' 미 변호사, 징계 위기

27일(현지시간) 미국 뉴욕타임스(NYT)에 따르면, 콜롬비아 아비앙카항공을 상대로 소송을 제기한 남성을 변호한 레비도 앤 오버먼 로펌 소속 스티븐 슈워츠 변호사는 챗GPT가 쓴 변론요약서를 재판부에 냈다가 징계받을 위기에 처했다. 요약서에 인용된 사건 판례들이 챗GPT가 지어낸 것으로 드러났기 때문이다. 슈워츠 변호사는 뒤늦게 "크게 후회한다"고 했다.

사건의 시작은 이렇다. 2019년 8월 엘살바도르에서 아비앙카항공 여객기를 타고 미 뉴욕 케네디국제공항으로 향하던 로베르토 마타는 기내식 서빙 카트에 무릎을 부딪혀 다쳤다. 마타는 항공사를 고소했다. 항공사는 공소시효 만료를 주장하며 맨해튼 연방법원에 사건의 기각을 요청했다. 슈워츠 변호사는 지난 3월 재판부에 제출한 10쪽 분량 요약서를 통해 "소송을 유지해야 한다"고 맞섰다. 해당 문건에는 중국남방항공, 대한항공, 델타항공 등이 관련된 6건 이상 판례가 빼곡히 인용돼 있었다.

그러나 유사한 그 어떤 판례도 실존하지 않았다. 아비앙카항공이 선임한 항공법 전문 로펌 콘돈 앤 포사이스의 바트 바니노 변호사는 "서류상 사건이 실제가 아니라는 것을 알 수 있었다"며 "챗봇이 연루됐을 수 있다는 것을 직감했다"고 NYT에 말했다.

슈워츠 변호사는 법원에 제출한 진술서를 통해 "조사에 챗GPT를 사용했다"고 실토했다. 그는 "재판부와 항공사를 속일 의도는 전혀 없었다"며 "챗GPT를 사용해본 적이 없어 그 내용이 허위일 수 있다는 가능성은 생각지도 못했다"고 해명했다. 그는 "남방항공 사건이 실제 사건이냐"고 챗GPT에게 되물어 확인했다. 챗GPT의 대답은 "그렇다"였다. 출처를 묻는 질문에도 '그럴 듯한' 답변을 내놓았다. 완벽한 거짓말이었다.

다음 달 8일 슈워츠 변호사에 대한 징계를 논의하기 위한 청문회가 열린다.

"AI, 사무직 완전한 대체는 어려워"

이번 사건으로 챗GPT의 신뢰도에 대한 논란이 더 커졌다. 업무 효율성을 위해 챗GPT가 내놓은 결과물을 맹신했다가는 화를 부를 수 있다. 스티븐 길러스 뉴욕대 법학전문대학원 교수는 "챗GPT가 제공하는 정보를 검증해야 한다"고 강조했다.

AI가 인간을 완전히 대체하기란 어렵다는 것을 단적으로 보여줬다는 평가도 나온다. NYT는 "사무직 종사자를 AI가 대신하기까지는 시간이 좀더 남아있다"고 전망했다.

권영은 기자 you@hankookilbo.com