범죄도 AI로 진화… “2년 내 해킹 시간 절반 단축”

가트너 “보안 위협 우려 커져”
AI에이전트 활용해 범죄 자동화
北·中 해커는 생성형 AI 이용해
“기업 워크플로 개선해야 방지”

인공지능(AI) 발전에 따른 보안 위협 우려가 커지고 있다. 자율적인 의사 결정으로 스스로 목표를 설정하고 실행하는 AI 에이전트의 시대가 오면 범죄가 자동화되면서 해킹이 손쉬워지고 딥페이크(가짜 이미지) 등을 이용한 사회 공학 공격이 늘어날 것이라는 전망이 제기된다.

사진=로이터연합뉴스

20일 글로벌 시장분석기관 가트너는 “2027년까지 AI 에이전트가 사용자 계정 탈취(ATO)에 소요되는 시간을 50% 줄일 것”이라며 이같이 밝혔다.

제레미 드호인 가트너 VP(부사장급) 애널리스트는 “계정 탈취는 여전히 해커들의 주요 공격 수단”이라며 “데이터 유출, 피싱, 사회 공학, 멀웨어 등 다양한 방법으로 비밀번호를 수집한 해커들은 사용자가 여러 사이트에서 같은 비밀번호를 사용한다는 것을 염두에 두고 자동화 봇을 이용해 여러 서비스에서 로그인을 시도할 것”이라고 전망했다.

이미 AI 에이전트 전 단계인 생성형 AI는 사이버 해커들의 생산성을 높이는 도구로 자리 잡았다.

루크 맥나마라 구글 위협인텔리전스그룹 부수석 애널리스트는 최근 브리핑에서 “중국과 북한의 해커들이 구글의 ‘제미나이’를 활용하는 사례를 파악했다”고 소개했다. 이들이 제미나이를 비롯한 생성형 AI를 활용해 딥페이크 생성, 소프트웨어 취약점 분석, 악성 코드 작성 등 공격의 모든 단계를 자동화하고 있다는 설명이다.

가트너는 ATO와 더불어 사회 공학 공격 또한 기업 사이버보안에 중대한 위협이 될 것으로 내다봤다. 딥페이크 음성이나 영상 같은 현실 위조 기술을 사회 공학 공격 기법과 결합해 피해를 극대화하는 방식이다.

마누엘 아코스타 가트너 시니어 디렉터 애널리스트는 “기업이 위조 현실 기술을 악용한 공격에 효과적으로 대응하려면 기업 내부 절차와 워크플로를 개선해야 할 것”이라며 “관련 교육을 통해 직원들에게 진화하는 위협 환경을 인식시키는 것도 핵심 방지책이 될 수 있다”고 강조했다.

이동수 기자 ds@segye.com