AI의 역습…국내외 보안기업, 새해 AI發 사이버 위협 본격화 한목소리

ⓒ게티이미지뱅크

생성형 인공지능(AI) 확산이로 인해 새해 사이버보안 위협이 커질 것으로 보인다. 국내외 주요 정보보호기업이 새해 AI발 사이버보안 위협이 본격화할 거라고 입을 모았다.

이스트시큐리티는 새해 사이버 공격자들이 생성형 AI 활용을 확대할 것으로 내다봤다. 올해가 생성형 AI에 대해 탐색하고 습득한 해라면, 새해엔 실제 공격에 적용·활용하는 해가 될 것이란 게 이스트시큐리티 측 설명이다.

이미 만들어진 해킹 프로그램을 활용하는 스크립트 키디(Script Kiddie)가 대표적이다. 이들은 생성형 AI를 통해 악성코드 제작, 취약점 검색 등을 시도할 것으로 보인다. 또 피싱 공격자가 생성형 AI를 활용해 다국어를 자연스럽게 구사하며 피싱 메일을 세계에 유포할 수도 있다. 사이버 범죄 도구인 '웜GPT(WormGPT)'와 같이 해커를 위한 생성형 AI도 성행할 수 있다.

이글루코퍼레이션도 생성형 AI를 이용한 사이버 공격이 증가할 것으로 내다봤다. 챗GPT 등장으로 사이버 공격 정확성이 높아졌고 보안 아키텍처를 우회할 수 있는 등 사이버보안 체계를 무력화하는 사례가 늘어났다는 것이다. 또 AI나 머신러닝(ML) 훈련 단계에서 공격자가 훈련 데이터를 오염시키거나 알고리즘에 개입할 수 있다는 우려도 제기했다. 플러그 인, 확장 프로그램, 응용프로그래밍 인터페이스(API) 등 AI 관련 취약점이 타깃이 될 수도 있다.

안랩도 핵티비스트(Hacktivist·Hacking+activist)가 정치나 이념적인 목적을 달성하기 위해 AI를 이용해 손쉽게 딥페이크 음성·영상을 제작해 대량 유통할 것이라며 AI 악용 가능성에 대해 우려했다. SK쉴더스 역시 새해를 AI 비즈니스 원년으로 보고 AI로 인한 사이버 보안 위협에 적극적으로 대응해야 한다고 강조했다. 특히 AI를 활용한 지능화한 피싱 공격이 많아질 것으로 예측했다.

글로벌 기업도 AI를 새해 사이버보안 위협으로 꼽았다.

트렌드마이크로는 AI 모델 자체도 공격받을 수 있다고 전망했다. 클라우드 기반 머신러닝(ML) 모델은 학습된 데이터셋이 많을수록 민감 데이터 유출, 사기 탐지 필터 우회, 커넥티드카 방해와 같은 다양한 목적 데이터 오염 공격 대상이 될 수 있다는 설명이다. 현재 100달러가 채 안되는 비용만 내면 이러한 공격을 수행할 수 있을 정도로 손쉽게 접근할 수 있다.

프루프포인트는 생성형 AI가 '양날의 검'이라고 강조했다. 챗GPT, 프로드(Fraud)GPT, 웜GPT 등 생성형 AI가 늘어나면서 생산성 향상에 대한 기대와 동시에 사이버 범죄 도구로 악용하는 우려가 공존하고 있다. 프루프포인트는 조 바이든 미국 대통령이 지난해 10월 AI 안정성 평가 의무화 등을 골자로 한 행정명령에 서명했듯이, 생성형 AI에 따른 사이버 보안 위협에 직면했다고 분석했다.

조재학 기자 2jh@etnews.com