클릭하면 카드정보 쓱…감쪽같은 피싱메일 ‘5분’이면 만든다는데

생성형AI 활용한 ‘이메일 사기’ 급증
전세계 비즈니스 피싱메일 89% 급증
日인터넷뱅킹 피싱 건수·피해액 최대
그럴듯한 사기성 메일 한건 작성하는데
사람은 16시간, AI는 5분이면 만들어

챗GPT 로고 <사진 출처=EPA 연합뉴스>

생성형 인공지능(AI)을 활용한 범죄가 큰 폭으로 증가한 것으로 나타났다. AI가 사람의 목소리를 모방해 전화금융사기와 같은 사기범죄에 사용되는 것이다.

31일 니혼게이자이신문(닛케이)은 미국 인터넷 보안 업체인 애브노멀시큐리티를 인용해 2023년 상반기 세계 비즈니스 관련 사기 메일이 두 배에 가까운 89%나 증가했다고 보도했다. 2022년 상반기 증가율인 46%를 큰 폭으로 넘어선 것이다.

일본에서도 피해가 크게 느는 추세다. 일본 경시청에 따르면 2023년 상반기 인터넷뱅킹을 통한 부정송금 피해는 2322건으로 16배나 급증했다. 피해액도 30억엔에 달해 건수와 금액 모두 사상 최고치다.

부정송금은 비밀번호나 신용카드 정보를 빼내는 피싱사기를 바탕으로 하고 있다. 이를 위해 AI를 활용해 가짜 사이트를 만들기 때문에 범죄자 검거가 쉽지 않은 것으로 알려졌다.

닛케이는 2022년 11월 오픈 AI 챗GPT가 공개되면서 생성형 AI 활용이 범죄에 사용되는 부정적인 측면이 늘고 있다고 지적했다. 대표적으로 AI를 사용하면 사기성 메일을 만드는 것이 상대적으로 손쉬워진다. 미국 IBM 실험에 따르면 사기성 메일 작성에 걸린 시간은 사람은 16시간이지만 AI는 5분이면 충분했다.

일본의 경우 업무용 메일에 첨부파일을 포함할 경우 이 파일을 열기 위한 비밀번호가 별도의 메일로 자동 전송된다. 최근 AI를 활용한 사기성 메일은 이러한 일본 특유의 메일 습관까지 재현하기 시작했다는 분석이다.

사기뿐만 아니라 성적 이미지 창출도 문제다. 이스라엘 조사회사 액티브펜스에 따르면 소아성애자들이 모이는 불법사이트에 2023년 1~3월 생성형 AI로 만든 것으로 보이는 어린이 성적 이미지가 68점이 발견되기도 했다. AI를 통해 유명인 나체를 만들거나 성행위를 묘사한 동영상을 제공하는 사이트도 급증하는 추세다.

독일 통계업체 스태티스타에 따르면 생성형 AI 시장은 2030년에 2070억달러에 달해, 2023년의 5배 규모로 커질 것으로 전망됐다. 이의 부작용을 막기 위해 주요 7개국(G7)과 유럽연합(EU)은 2023년 12월 AI 포괄 규칙을 도입하기로 합의하는 등 가짜 정보 확산 방지를 위해 노력하고 있다.