AI로 스스로 취약점 찾아 네트워크 공격·전파하는 '웜' 등장

AI를 이용해 스스로 학습하고 공격하는 새로운 컴퓨터 악성코드가 개발됐다. Chat GPT 생성 이미지.

인공지능(AI)을 활용해 목표 시스템의 취약점을 스스로 찾아 공격하고 다른 기기로 전파되는 새로운 형태의 컴퓨터 악성코드(웜)가 개발됐다. 전문가들은 AI 기반 사이버 공격이 더 이상 이론적 가능성이 아니라며 새로운 보안 위협에 대비해야 한다고 경고했다.

미국 과학매체 사이언티픽 아메리칸의 3일(현지시간) 보도에 따르면 캐나다 토론토대 벡터 연구소·영국 케임브리지대 공동 연구팀이 AI로 스스로 공격 전략을 생성하고 자기복제하는 컴퓨터 웜을 구현하고 가상 네트워크에서 전파 능력을 시험했다. 연구결과는 논문 사전공개 사이트 '아카이브(arXiv)'에 2일 공개됐다.

컴퓨터 웜은 사용자 개입 없이 네트워크를 통해 스스로 복제하며 다른 시스템으로 전파되는 악성코드다. 기존 웜은 개발자가 미리 설계한 명령에 따라 작동하지만 새로운 AI 웜은 AI를 활용해 새로운 환경에 적응하고 학습할 수 있도록 설계됐다.

연구팀은 AI 웜을 실제 인터넷 환경이 아닌 격리된 가상 환경에서 테스트했다. 리눅스·윈도우·사물인터넷(IoT) 기기 등 33대로 구성된 가상 기업 네트워크에서 15차례 실험을 진행했다.

실험 결과 AI 웜은 평균 31.3개의 취약점을 찾아냈고 23.1개 시스템에서 관리자 권한을 획득했다. 이후 평균 20.4개 시스템으로 자가복제해 전체 네트워크의 약 61.8%까지 전파됐다.

연구팀은 AI 웜이 기존 악성코드보다 위험하다고 설명했다. 기존 웜은 개발자가 미리 정해둔 취약점만 공격할 수 있지만 AI 웜은 목표 시스템을 정찰한 뒤 상황에 맞는 공격 전략을 실시간으로 생성하기 때문이다. 특정 공격이 실패하더라도 수집한 정보를 바탕으로 새로운 방법을 시도한다.

AI 웜은 대규모언어모델(LLM)을 이용한 학습을 종료한 이후에 공개된 취약점 3건도 공격하는 데 성공했다. 공개된 보안 권고문을 읽고 새로운 공격 방법을 스스로 구성한 것이다. 연구팀은 새 취약점이 공개된 뒤 기업이 보안 패치를 적용하기 전에 AI 웜이 먼저 공격에 나설 수 있다고 우려했다.

특히 AI 웜은 기업 비공개 모델 대신 누구나 인터넷에서 사용할 수 있는 공개 AI 모델을 활용했다. 연구팀은 고성능 AI 악성코드 개발에 필요한 기술적 장벽이 낮아졌음을 보여준다고 설명했다.

동시에 현대 사회 금융·통신망·의료체계·교통시스템 등 대부분 핵심 인프라가 네트워크로 연결된 만큼 사이버 보안 위험성이 더 커졌다고 지적했다.

연구에 참여하지 않은 데이비드 리 캐나다 토론토대 교수는 "AI로 강화된 사이버 공격에 대응할 방어 기술을 서둘러 개발해야 한다는 경고"라며 "AI가 공격 기술뿐 아니라 방어 기술 개발에도 활용할 수 있을 것"이라고 덧붙였다. AI가 취약점을 찾아낼 수 있는 만큼 이를 보완하고 대응 체계를 구축하는 데 활용할 수 있을 것이라는 설명이다.

<참고 자료>
doi.org/10.48550/arXiv.2606.03811

[문혜원 기자 moony@donga.com]