[심승배의 국방&디지털⑧] AI는 사이버전의 창과 방패

[사이버보안과 AI] "언젠가 등장할 지도 모르는 AGI 기반 공격도 준비해야"

(지디넷코리아=심승배 한국국방연구원 국방데이터연구단장)현대전에서 사이버 공간은 지상, 해상, 공중에 이어 새로운 전장으로 부상했다. 특히, 사이버 공격은 물리적 공격보다 은밀하며 광범위한 시공간에서 발생할 수 있어 국방을 포함한 국가에 심각한 영향을 줄 수 있는 위협이 됐다. 국방 분야는 사이버 위협 보호, 사이버 공격 대응을 포함한 사이버보안을 강화하기 위해 노력하고 있으며, 특히 사이버 공격에 대한 방어 역량을 강화하기 위해 인공지능 기술을 도구로 활용하고 있다.

사이버보안은 정보 및 시스템을 사이버 위협으로부터 보호하며 피해가 발생한 경우 이를 복구함으로써 정보의 기밀성·무결성·가용성을 보장하는 것을 의미한다. AI는 패턴인식과 기계학습으로 네트워크 트래픽을 실시간으로 모니터링하고, 비정상적 활동을 감지해 사이버 공격에 대한 신속한 대응을 가능하게 할 수 있으며, 반복적이고 일상적인 사이버보안 작업을 자동화할 수 있다. 또 AI는 과거의 사이버공격 데이터를 분석해 미래 사이버위협 시나리오를 예측할 수도 있다.

사이버공격과 위협은 해킹, 컴퓨터 바이러스, 서비스거부(DDoS: Distributed Denial of Service), 전자기파 등 전자적 수단에 의해 정보통신기기, 정보통신망 또는 이와 관련한 정보시스템을 침입·교란·마비·파괴하거나 정보를 위조·변조·훼손·절취하는 행위 및 그와 관련한 위협을 말한다.

먼저, 국방 시스템에 대한 사이버보안 위협을 알아본다. 국가안보에 직결하는 중요한 정보를 다루는 국방 시스템은 사이버 공격의 주요 표적이 될 수 있으며, 공격자는 무기체계에 대한 기술적인 규격정보, 지휘통제체계에서 다루고 있는 작전계획, 군사정보체계에서 수집하고 분석하는 군사정보 등을 탈취하는 것을 목표로 한다. 컴퓨터 바이러스, 악성 코드 등을 이용해 공격자가 원하는 시점이나 조건이 될때 국방 시스템을 마비시키기 위한 공격, 국방 네트워크에 과도한 트래픽을 발생시켜 정상적인 서비스를 제공하지 못하도록 하는 서비스거부 공격 등도 대표적인 공격 유형이다.

심승배 한국국방연구원 국방데이터연구단장

러시아-우크라이나 전쟁에서 러시아 해커들이 정보를 조작한 가짜정보를 소셜 네트워크 서비스에 유통한 사례도 정보를 조작하는 사이버 공격 일종이다. 올 8월에 페이스북(Facebook)을 운영하는 메타(Meta)에서 러시아가 생성형 인공지능을 이용해 정보조작 및 가짜정보 유통을 시도했다고 밝힌 것처럼 AI를 사용하면 효율적으로 정보를 조작할 수 있다. 오픈AI(OpenAI)에서도 중국과 러시아에서 여론조작을 위해 챗GPT(ChatGPT)를  활용한 시도가 있었다고 밝혔듯이, 생성형 AI 기술과 서비스는 이미 사이버 공격을 위한 주요 수단이 됐다.

공격자들이 AI 기술을 활용해 사이버 공격 방식을 지능화하고 고도화하고 있다면, 방어하는 입장에서도 마찬가지로 AI 기술을 활용할 수 있다. 본고에서는 사이버공격에 대한 방어 관점에서 AI를 활용하는 방안과 유사시 또는 전시에 적에 대한 사이버공격 수단으로 AI를 활용하는 방안에 대해 살폈다.

우선 방어 관점에서, AI 기술은 방대한 데이터를 분석해 사이버 공격 패턴을 학습하고, 이를 기반으로 새로운 공격을 예측하고 탐지할 수 있다. AI 알고리즘은 시스템 로그, 네트워크 트래픽, 사용자 행위 등을 분석해 정상적인 패턴과 다른 이상행위를 탐지할 수 있으며, 알려진 악성코드 특징을 학습해 새로운 변종 악성코드를 탐지할 수도 있다.

침입탐지시스템(IDS: Intrusion Detection system)에 적용된 AI 기술은 네트워크 트래픽을 실시간으로 분석하고 침입시도를 탐지해 대응하는데 도움을 줄 수 있다. 이미 사이버공격을 받은 상태라면, AI 기술은 사이버공격에 대한 대응을 자동화해 신속하고 효과적인 대응을 가능하게 할 수 있다. 예를 들어, AI는 감염된 시스템을 자동으로 격리해 피해 확산을 방지할 수 있으며, 공격으로 인해 손상된 시스템을 자동으로 복구할 수 있다.

또 AI는 사이버공격 수단으로도 활용이 가능하다. 악성코드를 탐지하고 방어하는 데 AI 기술을 쓰는 것처럼 역으로 악성코드를 생성할 때도 AI 기술을 사용할 수 있다. 기계학습 알고리즘으로 기존 악성코드 패턴을 학습해 새로운 변종을 만들어내면 기존의 탐지시스템을 우회할 수도 있다. 생성형 AI 기술은 개인화한 피싱 이메일 생성에도 활용될 수 있으며, 공격대상의 소셜 미디어 활동이나 공개된 정보를 분석해 신뢰성 높은 피싱 메시지를 대상에게 보낼 수 있다. 마찬가지로 아군의 취약점을 찾아내는 데 AI 기술을 사용하는 것처럼 적의 사이버보안 취약점을 찾아낼 때도 AI 기술을 사용할 수 있다. 이는 아군의 사이버공격 속도와 효율성을 향상시킬 수 있다.

AI 기술을 사용해 가짜 이미지나 영상물을 생성하는 딥페이크(deepfake)도 공격 대상 국가에 대한 사회공학적 공격을 정교하게 하는 수단이 될 수 있다. 러시아-우크라이나 전쟁 중에 온라인에 유포된 푸틴 대통령의 계엄령 선포 연설 영상이나 2024년 미국 대통령 선거를 앞두고 선거판을 흔들고 있는 가짜 영상의 영향력을 생각해 보면, 사이버공격 수단으로 딥페이크가 얼마나 악용된 기술인지 알 수 있다.

미래에는 AI 에이전트가 사이버전 상황에서 인간의 개입 없이도 스스로 학습하고 진화하는 사이버 전투 임무를 수행할 수도 있을 것이다. 실시간으로 사이버 방어 시스템을 진단하고 내부 시스템을 복구하고, 곧바로 적의 시스템에 대한 사이버 공격을 시도할 수 있을 것이다.

14세기에 유럽에서 발생해 당시 인구의 3분의 1을 사망에 이르게 한 흑사병과 2019년부터 전세계로 확산된 코로나바이러스 감염증-19(COVID-19)도 쥐나 벼룩, 사람을 통해 빠르게 전파됐는데, 세계가 온라인으로 연결돼 있는 사이버 세계에서 일어나는 사이버공격의 전파 속도는 상상을 초월할 수 있다. 딥페이크로 만든 영상을 포함해 AI 기술로 합성 데이터를 생성하면 더욱 정교한 공격 시나리오를 개발할 수도 있다.

AI 시대에 군의 사이버보안을 강화하려면 무엇을 준비해야할까? 먼저 사이버공간에 대한 방어 관점에서 AI를 활용한 위협 탐지 및 대응 기술에 대한 지속적인 연구개발이 필요하며 사이버 보안 인력의 AI 활용 능력 향상도 필요하다. AI 기반 공격의 특성을 이해하고 대응할 수 있는 역량이 없다면, 적의 AI 기반 사이버 공격에 당할 수밖에 없다. 국제사회 일원으로서 AI를 악용한 사이버 공격을 방지하기 위한 관련 정책과 윤리적 기준을 마련하는 것도 중요하다.

언젠가 등장할 지도 모르는 일반인공지능(AGI: Artificial General Intelligence) 기술을 활용한 초지능형 사이버 방어 시스템이나 AGI 기반 사이버 무기가 나온다면 우리 군은 어떻게 대응해야할까? 미래 전장에서 사이버 공간의 중요성은 우주 공간과 더불어 더욱 커질 것이며, AI 기술은 이러한 공간에서의 우위를 결정짓는 핵심 수단이 될 것이다. 하지만 인간(유인 전투원)이 도구(AI 기반 사이버 전투원)를 악용하거나 도구에 지나치게 의존한다면 효과적인 사이버보안체계를 운영할 수 없을 것이다. 사이버전 임무는 궁극적으로 전통적인 군사 작전을 보조하고 지원하는 역할이며, 이는 물리적 전장에서 수행하는 본질적인 군사 임무를 더욱 효과적으로 달성하기 위한 부가적인 수단이기 때문이다.

심승배 한국국방연구원 국방데이터연구단장(crayon.sim@gmail.com)