과기정통부 “내년에 생성형 AI 악용한 사이버 범죄 증가”

과기정통부·한국인터넷진흥원(KISA)
2024년 보안 위협 전망 발표

[사진=픽사베이]

챗GPT 등 올해 급속도로 발전한 생성형 인공지능(AI) 기술이 사이버 범죄의 위험성을 증가시킬 것으로 전망된다. 생성형 AI 기술이 다양한 사이버 공격에 악용될 수 있다는 점에서 이에 대응할 수 있는 기술 개발의 필요성도 제기된다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 안랩, 지니언스, 이글루코퍼레이션, 맨디언트 등 국내외 보안 기업과 함께 이같은 내용을 담은 ‘2023년 사이버 보안 위협 분석과 2024년 사이버 보안 위협 전망’을 17일 발표했다.

과기정통부에 따르면 올해 발생했던 주요 사이버 보안 위협으로는 소프트웨어 공급망 공격 확대, 개인 정보 탈취 노리는 피싱 공격 고도화, 랜섬웨어 공격이었다.

소프트웨어 공급망의 경우 보안 인증 프로그램의 취약점을 노리거나 오픈소스 커뮤니티에 악성코드 패키지를 배포하는 공격이 지속 발생했다. 일례로 지난 6월에는 북한이 ‘매직라인’이라는 보안 인증 프로그램 취약점을 이용해 국내 공공기관을 포함한 50여곳에 악성코드를 배포한 적이 있었다.

개인정보를 노리는 피싱 공격도 올해 지속 고도화됐다. KISA가 올해 탐지 차단한 피싱사이트 건수는 7534건으로 전년 대비 약 79% 증가했다. 텔레그램 공식 계정처럼 위장해 계정을 탈취한 후 해당 계정에 등록된 지인들에게 피싱사이트를 전달하는 새로운 수법도 나타났다.

랜섬웨어 공격 건수는 전년 대비 약 27% 감소한 237건을 기록했지만 위협은 여전했다. 특히 최근 랜섬웨어 공격은 78.1%가 중소기업을 대상으로 하는 등 상대적으로 보안이 취약한 기업을 노리는 경향이 강했다.

내년에는 생성형 AI를 악용한 사이버 범죄 가능성이 증가할 것으로 전망된다. 생성형 AI 기술을 활용하면 전문 지식 없이도 악성코드를 제작하거나 음성 위변조 등이 가능해, 범죄에 악용될 위험성이 높다는 것이다. 또한 기존 백신이 탐지하기 어려운 변종 악성코드 개발에도 생성형 AI 기술이 활발히 이용될 것으로 예상된다.

내년에는 한국의 국회의원 선거, 미국의 대통령 선거 등 대규모 정치적 행사가 있어 이를 악용하는 공격도 위협 요인이다. 과기정통부는 이러한 상황에서 사회 혼란을 노리는 세력의 사이버 위협 가능성도 함께 높아진다고 경고했다.

소프트웨어 공급망 공격은 내년에도 확대될 것으로 보인다. 유명한 오픈소스를 사칭하거나 변조된 코드를 배포해 개발자 시스템 장악을 노리는 시도도 증가할 전망이다. 제조, 에너지, 교통 등 주요 인프라 환경에서 상호 연결이 증가함에 따라 운영기술(OT), 산업제어시스템(ICS)이나 사물인터넷(IoT) 환경의 보안 위협도 증가할 것으로 점쳐진다.

과기정통부는 기업과 기관들에 사이버 공격 발생 시에도 운영이 가능한 무중단 백업체계를 마련하고 신속한 복구 프로세스를 강화할 것을 강조했다. 또한 과기정통부는 제로트러스트 보안 모델을 기반으로 기업의 정보보호 역량 강화를 지속 지원한다는 계획이다.