"생성AI가 사이버 범죄 도울 수도…악용 범죄 크게 늘듯"

정부·보안기업들 2024년도 '사이버 위협' 전망서 전망
"생성 AI 이용해 공격 대상 정보·수집·분석 더 자동화"
"해킹그룹, 선거앞두고 딥페이크 활용 가짜뉴스 생산"

[이데일리 한광범 기자] 정부와 국내외 보안업체들이 내년에 생성형 AI를 악용한 사이버 범죄가 크게 증가할 것이라고 전망했다.

17일 과학기술정보통신부과 한국인터넷진흥원(KISA)은 국내외 보안업체들이 참여하는 ‘사이버 위협 인텔리전스 네트워크’와 함께 사이버 보안 위협 관련 올해 분석과 내년도 전망을 발표했다.

사이버 보안 위협 인텔리전스 네트워크는 정보공유 및 침해사고 공동 대응을 위해 KISA와 국내외 보안업체가 운영하는 협력 네트워크다. 국내에선 안랩, S2W 등이, 해외에선 마이크로소프트와 카스퍼스키 등의 기업이 참여하고 있다.

정부와 민간 보안 기업들은 AI 혁신을 가져온 생성형 AI를 이용해 보안에 대한 전문지식이 없더라도 손쉽게 악성코드 제작이 가능해 다양한 사이버 공격에 악용될 수 있는 위험성을 내포하고 있다고 분석했다.

아울러 생성형 AI를 이용해 공격 대상의 정보를 수집하고 분석하고 것도 더욱 자동화되고 가속화될 수 있다고 내다봤다. 생성형 AI와 LLM을 활용해 범죄 대상과 범죄 방법을 제공하는 서비스가 다크웹 등 해킹 포럼에 소개될 경우 누구나 쉽게 사이버 범죄에 가담할 수 있다는 지적이다.

“생성 AI 기반 사이버 범죄 도구 최근 발견”

실제로 공격자가 기술 용어나 특정 비즈니스 영역에 능통하지 않더라도 공격 대상이 쉽게 속을 수 있도록 정교하게 이메일 본문을 작성하고 악성 프로그램을 제작해 주는 등 피싱 이메일 공격을 도와주는 생성형 AI 기반의 사이버 범죄 도구가 최근 발견되기도 했다고 전했다. 기존 백신 등이 탐지하기 어려운 변종 악성코드를 만드는 데도 생성형 AI 기술이 더욱 많이 이용될 것으로 전망했다.

정부 등은 생성형 AI를 악용하는 사이버 범죄에 적극적으로 대응할 수 있는 관련 보안기술 개발 필요성도 높아질 것이라고 내다봤다. 공격 가능성이 높은 취약점을 미리 식별하고 대응하기 위한 기술 개발이나, 생성형 AI 모델의 결과물을 식별하고 진위여부를 판별할 수 있는 기술 등을 당장 현장에서 요구할 수 있다고 지적했다.

아울러 내년도 국내에서 국회의원 총선거가 예정돼 있고 미국에선 대선과 상하원 선거가 예정돼 있는 상황에서 이를 이용한 사이버 위협 가능성도 함께 높아질 수 있다는 분석이다.

과기정통부는 “국가적 중요 행사가 있을 때 사회 혼란을 노리는 세력들이 사이버 위협 가능성도 함께 높아진다며 악의적 의도를 지닌 공격자들은 불순한 목적이나 갈등을 조장하기 위한 다양한 공격을 시도할 수 있다”고 내다봤다.

해킹 그룹은 목표물을 공격하기 위한 사전작업으로 목표 관계자와 주변을 소셜미디어로 확인하고 피싱 공격, 악성코드 감염, 해킹 등을 통해 얻은 시스템 관리자 등의 계정정보를 이용한다고 전했다. 또 딥페이크 기술을 적극 활용해 가짜 뉴스를 생산하고 예전에 유출된 내용으로 거짓 해킹을 주장할 수도 있다고 전망했다.

“오픈소스 사칭해 개발자 대상 공격도 늘어날 듯”

국가 주도의 해킹 그룹은 상대 세력의 중요 정보를 몰래 유출하기 위한 활동과 함께 사회 전반에 혼란과 장애를 일으킬 수 있는 공격을 시도할 것이고 지적했다. 또한, 핵티비스트(Hacktivist)들은 자신들의 신념에 따라 공격 대상을 정해 지속적인 공격을 진행할 것으로 전망된다고 밝혔다.

언론사와 포털, 선거 관련 기관들에 대한 공격에 효과적으로 대응하지 못한다면 그 피해는 온라인에서만 국한되는 것이 아니라 사회 전반에 대한 사이버 테러가 될 수 있다며 더욱 지능적인 공격 시나리오나 전략을 계획할 수 있어 철저한 대응이 필요하다고 지적했다.

과기정통부 등은 또 해킹 그룹이 유명한 오픈소스를 사칭하거나 변조된 코드를 배포해 개발자 대상 공격을 확대해 나갈 것으로 전망했다. 개발자 시스템을 장악하면 지능적이고 지속적인 공격(APT)을 통해 은밀히 침투해 개발 제품에 악의적인 코드를 쉽게 포함시킬 수 있기 때문이다. SW 제작과 운영단계에서 정상 제품에 악성코드가 포함되어 배포되면 용기업이나 기관들은 악성코드 등이 침투됐다는 사실도 인지하지 못하고 고객사 등 다른 이용자에게도 연쇄적인 피해를 줄 수 있다.

과기정통부와 KISA는 “기관·기업 등이 보안시스템에 안심하는 것보다는 만일의 상황에 대비해 사이버 침해를 당하더라도 업무 중단이 되지 않도록 백업체계를 마련하고 신속한 복구 프로세스를 반복해서 점검하고 강화해야 한다”고 강조했다. 그러면서 현재 유관기관들과 협력해 면밀한 공격 탐지와 차단, SW 개발사와 신속한 보안패치 배포 등 피해 확산 방지에 적극 대응하고 있다고 전했다.

홍진배 과기정통부 네트워크정책실장은 “사이버 공격은 이제 단순히 서비스 장애나 불편을 넘어 사회 전체를 마비시키고 생명을 위협할 수 있는 중대사고가 될 수 있다”며 “민관이 함께 협력해 안전한 디지털 세상을 만들어 가겠다”고 밝혔다.

한광범 (totoro@edaily.co.kr)