“회사 등쳐먹을 생각만 하네”…AI로 영수증 만들어 비용 청구한 직원들

AI로 제작한 영수증 이미지 [챗GPT]

직원들이 인공지능(AI)을 이용해 가짜 영수증을 만들어 경비 청구를 하는 사례가 늘어 기업들이 골머리를 앓고 있는 것으로 나타났다.

26일(현지시간) 영국 파이낸셜타임스(FT)는 최근 몇 달간 오픈AI와 구글 등 주요 AI 기업이 새로운 이미지 생성 모델을 출시하면서 AI 생성 영수증을 제출하는 일이 급증했다고 보도했다. 정보보안 업체 앱젠(AppZen)에 따르면 지난 9월 제출된 사기 문서 중 가짜 영수증이 약 14%를 차지해 작년 같은 기간 전혀 없던 것에 비해 크게 늘었다. 핀테크 기업 램프도 자사 신규 소프트웨어가 90일 만에 총 100만달러 이상의 사기성 비용 청구를 적발했다고 밝혔다.

경비관리 소프트웨어 업체들은 오픈AI가 지난 3월 GPT-4o의 개선된 이미지 생성 모델을 출시한 후 AI로 생성된 영수증 수가 크게 늘었다고 분석했다. FT는 “위조 영수증은 종이의 주름과 실제 메뉴에 있는 상세 항목과 서명 등 실제 영수증과 크게 차이가 없었다”고 전했다.

FT는 “과거엔 허위 문서를 제작하기 위해 사진 편집 기술이나 온라인 업체 등을 통한 유료 서비스 이용이 필요했다”며 “그러나 AI에 간단한 텍스트를 입력하는 것만으로 몇 초 만에 영수증을 위조할 수 있게 됐다”고 분석했다.

여러 기업들은 인간이 구분하기 어려울 정도로 정교한 위조 영수증을 적발하기 위해 경비 관리 소프트웨어 업체의 AI 탐지 기술에 의존하는 것으로 나타났다. 영수증을 스캔해 영수증의 위조 여부를 식별하고 이미지 메타데이터를 확인하거나 사진이 저장된 서버명과 촬영된 시간, 직원 출장 정보 등 여러 데이터를 이용하는 식이다.