“생성형 AI 악용 사이버 범죄↑…선거 앞두고 정치·사회적 이슈 우려도”

ⓒ게티이미지뱅크

새해 생성형 인공지능(AI)을 악용한 범죄가 늘어날 전망이다. 4월 22대 국회의원 총선거와 11월 미국 대통령 선거 등 국내외 대규모 정치 이벤트를 앞두고 정치·사회적 이슈를 공격 무기로 삼은 사이버 위협 가능성도 커졌다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 이 같은 내용을 담은 '2024년 사이버 보안 위협 전망'을 발표했다.

새해 사이버 보안 위협은 △생성형 AI를 악용한 사이버 범죄 가능성 증가 △정치·사회적 이슈를 악용하는 사이버 위협 고조 △운영기술(OT)·산업제어시스템(ICS) 및 사물인터넷(IoT) 환경의 보안 위협 증가 △소프트웨어(SW) 공급망 공격 등을 꼽았다.

먼저 생성형 AI가 사이버 보안에 커다란 위협으로 떠올랐다. 생성형 AI를 활용하면 초보자나 전문 지식이 거의 없는 문외한도 악성코드 제작, 취약점 확인, 사회 공학적 공격, 음성 위변조 등 다양한 사이버 공격을 손쉽게 벌일 수 있다. 또 생성형 AI와 대규모언어모델(LLM)을 활용해 범죄 대상·방법을 제공하는 서비스가 다크웹 등 해킹포럼을 통해 누구나 사이버 범죄에 가담할 수 있는 환경도 조성됐다.

실제 공격자가 잘 모르는 영역의 공격 대상을 쉽게 속일 수 있도록 정교하게 이메일 본문을 작성하고, 악성 프로그램을 제작해 주는 등 피싱 이메일 공격을 도와주는 생성형 AI 기반 사이버 범죄 도구가 발견됐다. 기존 백신 등이 탐지하기 어려운 변종 악성코드를 만드는 데도 생성형 AI 기술이 더 이용될 것으로 보인다.

공격자는 대규모 정치적 행사도 악용한다. 새해 한국은 4월 총선이, 미국은 3월 상·하원 선거와 11월 대선이 예정돼 있다. 국가적 중요 행사가 있을 때 공격자는 불순한 목적이나 갈등을 조장하기 위한 다양한 공격을 시도할 수 있다.

해킹그룹은 딥페이크 기술을 활용해 가짜 뉴스를 생산하고, 과거 유출된 내용으로 거짓 해킹을 주장할 수도 있다. 특히 국가 주도 해킹 그룹은 상대 세력의 중요 정보를 몰래 유출하기 위한 활동과 함께 사회 전반에 혼란과 장애를 일으킬 수 있는 공격을 시도할 것으로 보인다. 핵티비스트(Hacktivist·Hacking+activist)는 자신들의 신념에 따라 공격 대상을 정해 지속적 공격을 진행할 것으로 예상된다.

정보통신(IT) 기술이 사회 주요 인프라에 적용되면서 OT, ICS, IoT 기반 시스템과 상호 간 연결이 증가해 보안 위협도 함께 급증하고 있다.

또 SW 공급망을 통한 공격 시도도 늘어날 것으로 보인다. SW 제작과 운영단계에서 정상 제품에 악성코드를 심어 배포되면, SW 이용기업이나 기관은 악성코드 등이 침투됐다는 사실도 인지하지 못하고 고객사 등 다른 이용자에게 연쇄적 피해를 줄 수 있다.

과기정통부와 KISA는 유관기관과 협력해 면밀한 공격 탐지와 차단, SW 개발사와 신속한 보안패치 배포 등 피해확산 방지에 대응하고 있다.

홍진배 과기정통부 네트워크정책실장은 “우리 사회를 대상으로 하는 사이버 공격은 이제 단순히 서비스 장애나 불편을 넘어 사회 전체를 마비시키고 생명을 위협할 수 있는 중대사고가 될 수 있다”며 “민관이 함께 협력해 알려진 사이버 위협은 또다시 재발하지 않도록 철저히 분석해 대책을 마련하겠다”고 말했다.

2024년 사이버 보안 위협 전망 - 출처: 과학기술정보통신부

조재학 기자 2jh@etnews.com