AI가 작성한 보고서에 속았다…가짜 판결문 인용까지

딜로이트, AI 작성 보고서 논란
허위 보고서 참고문헌에 포함

글로벌 컨설팅 기업 딜로이트가 호주 정부 의뢰로 작성한 보고서에 오픈AI의 인공지능(AI)이 만들어낸 가짜 판결문 등을 인용한 사실이 드러나 논란이 일고 있다.

7일(현지시간) 영국 파이낸셜타임스(FT)·가디언 등에 따르면 호주 고용노동부는 전날 딜로이트가 정부에 제출한 보고서에서 일부 인용 및 참고문헌 오류가 확인돼, 딜로이트 측이 보고서 작성 용역비를 일부 돌려주기로 했다고 밝혔다.

고용노동부는 지난해 12월 구직자에게 불이익을 주는 복지 시스템의 문제점을 평가하는 보고서를 43만9000호주달러(약 4억1000만원)에 딜로이트에 발주했다. 그러나 지난 7월 딜로이트가 작성한 보고서가 공개되자 다수의 오류가 발견됐다는 지적이 학계와 현지 언론으로부터 제기됐다. 보고서가 실제로는 존재하지 않는 허위 보고서들을 각주·참고문헌으로 제시하는가 하면 호주 법원 판결문도 조작해서 인용했다는 것이다.

AP연합뉴스

이에 딜로이트는 참고문헌으로 제시한 출처 141개 중 문제가 발견된 14개와 본문의 조작된 인용문 등을 삭제한 보고서 수정본을 최근 제출했다. 특히 수정본에는 보고서 작성 과정에서 오픈AI의 대규모언어모델(LLM) GPT-4o 기반 도구를 일부 활용한 사실이 포함된 것으로 드러났다.

딜로이트는 수정본에서 오류를 수정했다면서도 "이번 (보고서) 업데이트는 보고서의 실질적 내용, 결과, 권고 사항에 어떤 영향도 미치지 않는다"고 밝혔다. 호주 정부는 보고서 내용과 권고 사항은 바뀌지 않았고 용역비 환불 규모 등은 거래가 완료되면 공개할 것이라고 설명했다.

FT는 이번 사건을 두고 AI 기술 사용에 따른 환각(AI가 실제로 존재하지 않는 허구의 정보나 콘텐츠를 생성하는 현상)의 위험을 여실히 보여준 사례라고 설명했다. 보고서 오류를 지적했던 크리스토퍼 러지 시드니대 로스쿨 교수는 "보고서 기반 자체에 결함이 있고 원래 공개되지 않았으며, 비전문적인 방법론이어서 권고안을 신뢰할 수 없다"고 현지 매체에 밝혔다.

컨설팅 회사들의 청렴성에 대한 의회 조사를 담당한 바 있는 데버라 오닐 호주 상원의원도 가디언을 통해 "이런 회사들과 계약을 하려는 사람은 자신이 비용을 지불하는 업무를 누가 수행하는지, 그리고 그 전문성과 AI 사용에 대한 검증을 받았는지 정확히 확인해야 한다"면서 "대형 컨설팅회사 대신 챗GPT를 구독하는 게 더 나을 수도 있다"고 꼬집었다.

허미담 기자 damdam@asiae.co.kr