어설픈 말투 끝…'토종 한국인' 가면 쓴 AI 피싱, AI로 벗겨낸다

[화이트해커 인사이트] ①

임종철 디자이너 /사진=임종철 디자이너

생성형 AI(인공지능)를 활용한 사이버침해 행위의 고도화를 막기 위해 사이버보안 업계도 AI로 본격적인 진화를 도모한다. 해킹에 대한 깊은 이해를 바탕으로 해킹을 막아내는 화이트해커 그룹도 AI를 적극 활용하는 모습이다.

15일 사이버보안 업계에 따르면 지난해 국제 해킹 조직의 국내 공공기관 공격 시도는 전년 대비 36% 증가했다. 한국을 노리는 적성 공격자들이 늘었을 수도 있지만 그보다는 사이버 공격이 종전 대비 훨씬 쉬워진 데 따른 것이라는 게 업계의 추정이다.

'손쉬운 해킹'이 가능하게 된 것은 생성형 AI 때문이다. 키워드 몇 개만 입력하면 사용자가 원하는 보고서는 물론 원하는 프로그램 코드소스를 뚝딱 만들어내는 생성형 AI는 해커들에게 좋은 공격 수단이 됐다. 특히 예전에는 상당한 코딩 실력을 갖춰야만 악성코드나 바이러스 프로그램 제작이 가능했지만 지금은 전문적인 컴퓨팅 교육을 받지 않은 이들도 손쉽게 악성 프로그램을 만들 수 있게 됐다. '웜(Worm) GPT' '사기(Fruad) GPT' 등의 이름으로 피싱 공격에 특화된 AI 모델을 다크웹에서 쉽게 찾을 수 있다고 알려졌다.

종전에는 외국인 해커들이 한국인을 대상으로 피싱(Phishing) 메일을 보낼 때 엉성한 번역투의 문장이 특징이었다. 쉽게 해당 메일을 걸러낼 수 있었다는 얘기다. 이제는 챗GPT 등을 활용해 한국어를 전혀 모르는 외국인도 한국어 메일을 쉽게 보낼 수 있다. 한국인터넷진흥원(KISA)에 따르면 국내 공공분야 사이버 위협의 74% 이상이 피싱 메일로 시작된다. 특히 멀쩡해 보이는 메일도 피싱메일일 가능성을 염두에 둬야 할 정도가 됐다.

사용자의 파일이나 컴퓨팅 시스템을 암호화해 제기능을 못하게 묶어둔 후 암호 해제를 내걸며 돈을 요구하는 랜섬웨어 공격도 AI로 고도화됐다. 지난해 4분기 국내에서 발생된 랜섬웨어 피해가 전년 대비 60% 이상 늘었던 데도 생성형 AI의 영향이 크다는 지적이다. 딥페이크를 통한 안면인식 기반 인증 시스템의 무력화 등도 생성형 AI로 사이버 위협이 고도화된 사례로 꼽힌다.

이같은 AI발 해킹을 막기 위해서는 방어자 쪽에서도 AI를 적극 활용해야 한다. 김동민 라온시큐어 화이트햇센터 팀장은 "생성형 AI 기반 보안 기술 발전은 초기 단계지만, 생성형 AI 기반 공격을 방어하기 위해선 같은 생성형 AI를 활용하는 게 유리한 것은 확실하다"며 "생성형 AI 기반의 랜섬웨어나 피싱 공격을 같은 생성형 AI가 막는다면 공격력과 같은 수준의 방어력을 발휘해 공격을 무력화할 수 있다"고 설명했다. 라온시큐어 역시 IT 인증·보안이라는 자사의 주요 사업에 생성형 AI기술을 적용한 보안 기술을 연구한다. 타인의 얼굴이나 목소리를 사칭해 피싱 등에 이용하는 범죄를 예방하는 딥페이크 탐지 기술, AI로 악성코드나 스미싱 및 피싱 등을 빠르고 효율적으로 분류해 내는 기술, 각 기업에 특화된 도메인 특화 LLM(거대언어모델) 및 엔터프라이즈 LLM 개발 등 생성형 AI를 활용한 다양한 보안 강화 기술들을 연구한다.

김 팀장은 "기존 AI도 학습을 통해 공격을 탐지하는 기능을 갖췄지만 새로운 유형의 공격에 대한 데이터가 충분하지 않으면 대응에 한계가 있다"며 "생성형 AI는 새로운 시나리오들을 생성해 AI 모델 학습에 활용함으로써 새로운 유형의 공격에 더 효과적으로 대비할 수 있다"고 했다. 생성형 AI의 특징들을 이용해 향후 더 고도화될 잠재적인 공격에 더 전략적으로 대비할 수 있도록 R&D(연구개발)에 적극 나서야 한다는 것이다.

황국상 기자 gshwang@mt.co.kr