딜로이트, AI 이용한 보고서 오류로 호주정부에 환불

세계적인 회계·컨설팅 그룹 딜로이트가 호주 정부로부터 의뢰받은 보고서를 작성하면서 인공지능 AI가 지어낸 가짜 판결문을 인용했다가 용역비 일부를 환불했다고 현지시각 7일 영국 파이낸셜타임스(FT)와 가디언 등이 보도했습니다.

호주 고용노동부는 지난해 12월 구직자 복지 시스템에 대한 평가 보고서를 43만9천 호주달러(약 4억1천만원)에 딜로이트에 발주했으나, 지난 7월 딜로이트가 작성한 보고서가 공개되자 오류가 적지 않게 있다는 지적이 제기된 바 있습니다.

이 보고서는 실제로는 존재하지 않는 허위 보고서들을 각주·참고문헌으로 제시하는가 하면 호주 법원 판결문도 조작해서 인용했던 것으로 확인됐습니다.

이에 따라 딜로이트는 참고문헌으로 제시한 출처 141개 중 문제가 발견된 14개와 본문의 조작된 인용문 등을 삭제한 보고서 수정본을 최근 제출했습니다.

딜로이트는 해당 오류와 관련해 오픈AI의 대규모언어모델(LLM) GPT-4o 기반 도구를 사용한 내용이 일부 포함됐다고 인정했습니다.

딜로이트는 수정본에서 오류를 수정했다면서도 "이번 (보고서) 수정은 보고서의 실질적 내용, 결과, 권고 사항에 어떤 영향도 미치지 않는다"고 주장했습니다.

호주 정부도 보고서 내용과 권고 사항은 바뀌지 않았고 용역비 환불 규모 등은 거래가 완료되면 공개될 것이라고 설명했습니다.

파이낸셜타임스는 이번 사건이 AI 기술 사용에 따른 위험을 여실히 보여준다고 설명했습니다.

보고서 오류를 지적했던 크리스토퍼 러지 시드니대 로스쿨 교수는 "보고서의 기반 자체가 결함이 있고 비전문적인 방법론이어서 보고서 권고안을 신뢰할 수 없다"고 현지 매체에 밝혔습니다.

[사진 출처 : 연합뉴스 / 호주 고용노동부 홈페이지 캡처]

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

박석호 기자 (parkseokho@kbs.co.kr)