“340억 송금하세요” 화상회의서 지시받은 은행직원, 꼼짝없이 당했다

인터넷 사건 절반은 해킹
“딥페이크 사기 주의해야”
범죄용 초거대AI 개발 나선 해커
갈수록 더 극성 부릴 것

[사진 출처 = 픽사베이]

인터넷·서버 공격의 주된 목적은 정보 탈취다.

한국인터넷진흥원이 집계한 2023년 상·하반기 인터넷 침해사고 신고에 따르면, 서버 해킹이 45.6%로 가장 많다. 이어 서버 마비를 노리는 디도스(DDoS) 공격 16.7%, 악성코드 유포 23.5% 순이었다. 또 매일경제가 2005년 이후 국내 언론에 보도된 개인정보 유출 사건 43건을 분석해 보니, 역시 해킹이 48.8%(21건)로 가장 많았다. 이어 내부유출 16.3%(7건), 기술 오류 7%(3건), 원인 모름 27.9%(12건) 순이었다. 언론에 보도된 정보 유출 계정만 3억3659만개에 달한 것으로 집계됐다. 국민1인당 25년간 최소 6.5번씩은 해킹을 당한 꼴이다.

문제는 인공지능(AI) 시대를 맞아 해커 역시 빠른 속도로 AI를 활용하고 있다는 점이다. 해커들은 챗GPT 등장 이후 웜GPT, XXXGPT, XXX울프(Wolf)GPT와 같은 기성 언어모델(LLM) 기반 악성 AI를 주로 사용했다. 범죄용 프로그램을 활용해 악성 코드와 자연스러운 피싱 메시지를 생성했다.

사이버 보안업체 슬래시넥스트는 웜GPT를 이용해 비즈니스 이메일을 공격하는 피싱 이메일을 생성하는 실험을 진행했다. 웜GPT는 가짜 송장을 지급하도록 유도하는 내용을 포함한 정교한 이메일을 생성했다. 어눌하게 외국어를 하지 않고, 현지인처럼 접근할 수 있는 방법이다.

현재는 직접 초거대 AI 개발에 나선 상태다. AI 기업들이 우회 접근을 잇달아 차단하기 시작하면서 부터다. 보안 기업 카토네트웍스의 에타이 마오르 보안전략 이사는 “몇몇 텔레그램 계정에서는 러시아어를 사용하는 해커가 악성 LLM을 개발할 AI 전문가를 모집하는 광고를 내기도 했다”면서 “이러한 경향이 랜섬웨어·악성 소프트웨어 운영자 사이에서도 관찰되고 있다”고 말했다.

보안 업체인 SK쉴더스는 이렇게 수집한 해킹 정보를 토대로 가상자산 탈취와 딥페이크 해킹 공격이 올해 극성을 부릴 것으로 전망하고 있다.

실제로 올해 홍콩의 한 금융사 직원은 딥페이크로 만든 가짜 최고재무책임자(CFO)의 지시에 속아 2억 홍콩달러(약 340억원)를 탈취 당해 논란을 빚었다. 해당 직원은 딥페이크 CFO에게서 “송금을 하라”는 가짜 이메일 받았을 때만 하더라도 속지 않았다. 하지만 주변 동료들이 참여하는 화상회의에서 딥페이크 CFO가 똑 같은 지시를 내리자 의심을 거두고 송금했다. 알고 보니 전부 AI로 만든 실시간 딥페이크 영상이었다.