테일러 스위프트 합성 음란물에 '발칵'…"이럴 줄 알았다" 경고 적중

'2024 사이버 보안 전망' 한 달여 만에 현실화

미국 팝스타 테일러 스위프트가 9일(현지시간) 아르헨티나 부에노스아이레스의 모뉴멘탈 스타디움에서 공연하고 있다. 2023.11.10./AP=뉴시스

미국 팝스타 테일러 스위프트의 딥페이크 음란사진이 지난달 말 유포된 사건을 계기로 생성형 AI(인공지능) 악용이 도마에 올랐다. 보안업계에서 제기된 우려가 현실화했다는 지적이 나온다.

1일 보안업계에 따르면 구글클라우드는 지난해 12월 '2024년 사이버 보안 전망' 보고서를 발간하며 생성형 AI와 LLM(거대언어모델)을 악용한 공격이 증가할 것으로 예상했다. 이 보고서는 구글·알파벳 산하 맨디언트·바이러스토탈 등에 소속된 보안 전문가들이 참여했다.

구글은 "공격자가 영리한 생성형 AI 프롬프트만 있으면 가짜뉴스, 수신자와 활발하게 소통할 수 있는 허위 전화, AI가 생성한 가짜 콘텐츠를 기반으로 한 딥페이크 사진·동영상을 얼마든지 만들 수 있다"며 "이런 정보 작전은 점차 주류 뉴스로 침투할 것"이라고 밝혔다.

이어 "특유의 확장성으로 인해 뉴스와 온라인상의 정보에 대한 대중의 신뢰도가 떨어져 결국 모든 사람이 자신이 접하는 정보를 회의적으로 바라보거나 더 이상 신뢰하지 않게 될 수 있다"며 "가까운 미래에 비즈니스와 정부가 대중과 소통하기가 더욱 어려워질 것"이라고 했다.

LLM(거대언어모델)에 대해 구글은 "피싱·SMS 등 소셜 엔지니어링(인간의 실수를 유도하는 공격)에 활용하면 음성·동영상을 비롯한 콘텐츠·자료가 더욱 합법적인 것처럼 보이게 된다"며 "피싱 이메일이나 메시지에서 철자법·문법 오류, 문화적 맥락에 맞지 않는 경우를 발견하기 더 어려워진다"고 밝혔다.

구글은 공격의 규모에 대해 "공격자가 이름·조직·직책·부서 심지어 건강 데이터에 접근할 수 있게 되면 매우 개인적이고 설득력 있는 맞춤형 이메일로 수많은 대중을 공격할 수 있다"고 했다. 또 생성형 AI와 LLM가 공격 도구를 제작하는 데 이용되는 경우가 늘어날 것이라고 예상하기도 했다.

다만 생성형 AI가 사이버 공격을 방어하는 데도 유용할 것이라는 전망도 나왔다. 구글은 "공격자에 대한 감지·대응·추적을 대규모로 강화하고 분석과 리버스 엔지니어링처럼 시간이 많이 드는 작업의 속도를 높일 수 있다"며 "특히 조직이 대량의 데이터를 합성하고 맥락화해 감지·분석 방식을 추진하는 데 AI가 요긴한 것"이라고 밝혔다.

한편 구글은 이번 보고서에서 중국·러시아·북한·이란을 지난해에 이어 사이버 위협이 우려되는 주요 4개국으로 지정했다. 아시아·태평양 지역에선 사이버 범죄와 인신매매가 결합된 '돼지 도살 사기', 선거를 둘러싼 사이버 활동이 문제될 것으로 봤다.

구글은 전세계적으로 △제로데이 취약점과 엣지 기기 악용 △미국 대선을 표적으로 한 사이버 활동 △핵티비즘(정치·사회적 목적을 띤 해킹) 증가 △APT(지능형 지속공격)의 와이퍼(데이터 삭제) 표준화 △위성통신를 비롯한 우주 기반 인프라 공격 등이 우려된다고도 밝혔다.

성시호 기자 shsung@mt.co.kr