오픈AI 쓴 딜로이트, ‘가짜 판결문’ 인용 보고서 제출…호주 정부에 환불

보고서 작성에 GPT-4o 활용 사실 인정
딜로이트 “오류 수정했지만 핵심 내용은 영향 없어”
FT “AI 환각(hallucination) 위험성 드러난 사례”

[딜로이트 제공]

[헤럴드경제=정호원 기자] 세계적 회계·컨설팅 그룹 딜로이트(Deloitte)가 오픈 AI의 인공지능(AI)을 활용해 작성한 정부 보고서에 가짜 판결문과 존재하지 않는 참고문헌을 인용한 사실이 드러나 논란이 일고 있다.

7일(현지시간) 영국 파이낸셜타임스(FT)·가디언과 정보기술(IT) 매체 아르스테크니카 등 외신에 따르면, 호주 고용노동부는 딜로이트가 제출한 복지 시스템 평가 보고서에서 인용·참고문헌 오류가 발견돼, 용역비 일부를 돌려주기로 했다고 밝혔다.

문제가 된 보고서는 지난해 12월 구직자에게 불리하게 작용하는 복지 시스템의 개선점을 검토하기 위해 43만9000호주달러(약 4억1000만원 상당)의 비용으로 딜로이트에 발주됐다. 그러나 올해 7월 보고서가 공개된 뒤 학계와 언론을 중심으로 오류가 있다는 지적이 나왔다.

보고서에는 호주 시드니대와 스웨덴 룬드대 교수들 명의의 논문이 각주·참고문헌으로 기재돼 있었지만 이는 실재로 존재하지 않는 허위 보고서였으며, 호주 법원 판결문도 조작된 인용이었다. 이에 딜로이트는 참고문헌으로 제출한 출처 141개 중 문제가 발견된 14개와 본문의 조작된 인용문을 삭제한 수정본을 다시 제출했다.

특히 수정본에는 오픈AI의 대규모언어모델(LLM) GPT-4o를 일부 활용했다는 사실이 명시됐다. 딜로이트는 “오류를 바로잡았지만 보고서의 실질적 내용, 결과, 권고 사항에는 영향을 미치지 않는다”고 해명했다.

호주 정부도 “보고서 내용과 권고 사항은 바뀌지 않았다”면서 “용역비 환불 규모 등은 거래 완료 후 공개될 것”이라고 설명했다.

FT는 이번 사안을 두고 “AI의 환각 현상이 초래할 수 있는 위험성을 여실히 보여준다”고 지적했다. 시드니대 로스쿨의 크리스토퍼 러지 교수는 “보고서 기반 자체에 결함이 있고 비전문적인 방법론에 기반하고 있어 신뢰할 수 없다”고 비판했다.

호주 상원의원 데버라 오닐은 가디언에 “공공 계약을 체결하는 기관은 실제로 누가 작업을 수행했고, AI 활용 여부가 검증됐는지 반드시 확인해야 한다”면서 “대형 컨설팅회사 대신 챗GPT를 구독하는 게 더 나을 수도 있다”고 꼬집었다.

한편 딜로이트는 논란이 불거진 날 오픈 AI의 경쟁사 앤스로픽(Anthropic)과 협약을 맺고 AI 서비스 클로드(Claude)를 전 세계 50만 임직원에게 제공한다고 발표했다. IT매체 테크크런치는 “AI 활용 확대하겠다는 발표와 종부 환불 소식이 같은 날 나왔다”면서 “시점이 흥미롭고 심지어 우스꽝스럽기까지 하자”고 평가했다.