"회사 돈 빼 먹을 생각뿐"···AI가 만든 '위조 영수증'에 속수무책인 기업들

기사 이해를 돕기 위한 사진. 클립아트코리아

[서울경제]

최근 인공지능(AI)을 이용해 가짜 영수증을 만들어 경비를 청구하는 사례가 급증하면서 전 세계 기업들이 골머리를 앓고 있다.

26일(현지시간) 영국 파이낸셜타임스(FT)는 오픈AI와 구글 등 주요 AI 기업이 이미지 생성 모델을 새로 내놓은 뒤 기업 내부 시스템에 AI로 생성된 위조 영수증이 빠르게 늘고 있다고 보도했다.

정보보안 업체 앱젠(AppZen)은 지난 9월 제출된 허위 문서 가운데 약 14%가 AI로 생성된 영수증이었다고 밝혔다. 불과 1년 전 0%였던 수치가 단기간에 급등한 것이다.핀테크 기업 램프(Ramp)도 최근 90일 동안 자사 소프트웨어가 100만달러(한화 약 14억 3000만 원) 규모의 사기성 비용 청구를 탐지했다고 전했다.

AI 기반 경비 관리 플랫폼 미디어스(Medius)가 미국과 영국의 재무 담당자들을 대상으로 실시한 조사에서도 응답자의 약 30%가 “오픈AI의 GPT-4o가 출시된 이후 위조 영수증이 증가했다”고 답했다. SAP 글로벌 경비 플랫폼 ‘컨커(Concur)’ 제품 마케팅 총괄 부사장 크리스 주노(Chris Juneau)는 “AI가 만든 영수증은 너무 정교해 육안으로는 거의 구별이 불가능하다”며 “우리는 고객들에게 ‘눈을 믿지 말라’고 조언한다”고 말했다.

그는 “오픈AI가 지난 3월 개선된 이미지 생성 모델 GPT-4o를 출시한 이후 AI로 생성된 영수증 제출이 폭발적으로 늘었다”고 덧붙였다.이에 대해 오픈AI 측은 “정책 위반이 확인되면 조치를 취하며 생성 이미지에는 ‘ChatGPT에서 생성됨’이라는 메타데이터가 포함되어 있다”고 설명했다.

과거에는 허위 영수증을 만들기 위해 포토샵 등 편집 기술이나 유료 외주 서비스를 이용해야 했지만 이제는 누구나 무료 AI 툴에 단순한 문장을 입력하는 것만으로 몇 초 만에 위조 영수증을 생성할 수 있다.FT는 “AI가 만든 영수증에는 종이의 주름, 실제 메뉴에 있을 법한 세부 항목, 서명까지 포함돼 진짜와 거의 구분되지 않는다”고 전했다.

기업들은 AI가 만든 위조 영수증을 적발하기 위해 경비 관리 소프트웨어의 탐지 기술에 의존하고 있다.이 시스템은 이미지의 메타데이터를 분석해 생성 경로를 추적하거나 영수증이 저장된 서버명·촬영 시간·출장지 정보 등을 대조해 위조 여부를 확인한다.그러나 사용자가 이미지를 다시 촬영하거나 화면을 캡처할 경우 메타데이터가 손쉽게 삭제돼 검출이 어렵다는 문제가 있다.

SAP가 지난 7월 발표한 보고서에서도 최고재무책임자(CFO)의 약 70%가 “자사 직원들이 AI를 이용해 출장비나 영수증을 위조한 적이 있다”고 응답했다.실제로 SAP 내부 조사 결과에서도 직원의 약 10%가 위조 영수증을 제출한 것으로 나타났다.

공인부정조사협회(ACFE) 의 메이슨 윌더(Mason Wilder) 연구국장은 “AI가 생성한 허위 영수증은 단순한 장난이 아니라 기업에 심각한 재정적 피해를 유발할 수 있다”며 “과거엔 포토샵 기술이 필요했지만 이제는 누구나 손쉽게 조작할 수 있는 시대”라고 지적했다.

임혜린 기자 hihilinn@sedaily.com