“AI 공격은 ‘기계의 속도’… 보안도 AI 기반 자동화로 대응해야” [AI 2026]

김수영 포티넷코리아 상무 인터뷰
섀도우 AI 통제부터 LLM 보호까지…AI 보안 전략 제시

생성형 인공지능(AI)이 기업 업무 환경 전반으로 빠르게 확산되면서 보안 전략도 새로운 전환점을 맞고 있다.

직원들이 거대언어모델(LLM) 기반 AI 서비스를 업무에 활용하는 사례가 늘어나면서 기업 내부 데이터 유출 우려가 커지는 한편, AI 모델과 애플리케이션 자체를 보호해야 한다는 요구도 함께 커지고 있다. 동시에 공격자들도 AI를 활용해 피싱, 계정 탈취, 랜섬웨어를 고도화하면서 공격 속도가 '기계의 속도'로 가속화되고 있고, 이에 맞춰 보안 대응 역시 자동화와 AI 기반 분석 중심으로 재편되는 흐름이다.

이러한 변화에 대응하기 위해 글로벌 사이버보안 기업인 포티넷은 포티AI(FortiAI) 기반 AI 보안 포트폴리오와 포티가드AI(FortiGuard AI) 위협 인텔리전스, 통합 SOC(Security Operations Center·보안관제센터)와 보안 운영 자동화 기술을 결합한 전략을 내세우고 있다. 김수영 포티넷코리아 상무에게 AI 확산 시대 보안 전략의 변화와 대응 방향을 물었다.

김수영 포티넷코리아 상무 / 포티넷코리아

생성형 AI 확산…섀도우 AI와 데이터 유출 걱정 커져

― 한국 고객들이 'AI 보안'을 얼마나 중요하게 받아들이고 있다고 보나. 아직은 관심 수준인지, 실제 프로젝트로 이어지고 있는지 현장 분위기를 들려달라.

최근 고객들과 대화를 나눠보면 AI 보안에 대한 인식이 '관심'에서 '실제 과제' 수준으로 올라온 것을 체감한다. 특히 생성형 AI를 업무에 쓰는 과정에서 사내에서 승인하지 않은 AI 서비스, 이른바 '섀도우 AI' 사용이 늘어나면서 내부 데이터가 어디까지 외부로 나가고 있는지 알 수 없다는 불안이 커졌다. 일부 기업은 아예 공개형 AI 사용을 막거나 제한하기도 하지만, 현실적으로는 AI 활용을 완전히 차단하기 어렵다는 점도 잘 알고 있다. 그래서 요즘은 "AI를 쓰지 말자"가 아니라 "어떤 AI를, 어떤 데이터와 함께, 어떤 통제 아래에서 쓸지"를 보안 관점에서 설계해야 한다는 공감대가 확실히 형성돼 있다.

AI 시대 보안, 'AI for Security'와 'Security for AI'

― 포티넷이 한국 시장에서 정의하는 'AI 보안' 개념을 설명해달라.

포티넷이 말하는 AI 보안은 단순히 개별 보안 제품에 AI 기능을 조금 추가하는 수준이 아니다. 우리는 시큐리티 패브릭(Security Fabric)이라는 통합 아키텍처 전반에 지능형 자동화와 가시성을 내재화하는 프레임워크로 AI 보안에 접근한다. 이를 크게 두 가지 축으로 정리할 수 있는데, 하나는 AI를 활용해 위협 탐지·분석·대응 속도를 끌어올리고 인력의 스킬 갭을 줄이는 'AI for Security', 다른 하나는 기업이 도입한 AI 모델·애플리케이션·인프라 전체를 보호하는 'Security for AI'다.

전자는 고도화된 공격에 대응하기 위해 탐지 품질을 높이고 대응을 자동화하는 영역이고, 후자는 프롬프트 인젝션, 모델 탈취, 데이터 유출 등 AI 스택을 겨냥한 새로운 취약점으로부터 기업의 AI 환경을 지키는 영역이라고 보면 된다. 궁극적으로 포티넷의 AI 보안은 지능화된 위협으로부터 조직을 지키는 방패이자, 기업이 AI를 안심하고 비즈니스에 도입할 수 있게 만드는 안전한 가이드의 역할을 동시에 수행하는 것을 목표로 한다.

섀도우 AI 통제부터 LLM 보호까지…FortiAI 포트폴리오

― 이런 개념과 전략을 실제로 구현하기 위해 포티넷이 제공하는 주요 AI 기반 보안 솔루션·서비스에는 어떤 것들이 있나.

가장 먼저 '포티AI-프로텍트(FortiAI-Protect)'는 기업 내부에서 발생하는 비인가 AI 애플리케이션 사용, 즉 섀도우 AI 리스크를 실시간으로 식별하고 통제하는 역할을 한다. 조직이 어떤 부서에서 어떤 AI 서비스를 쓰고 있는지 가시성을 제공하고, 사용자가 AI와 공유하는 데이터 유형을 세밀하게 제어할 수 있게 해 민감 정보가 외부로 유출되는 것을 막는다.

'포티AI-시큐어AI(FortiAI-SecureAI)'는 LLM을 포함한 AI 스택 전체를 보호하는 데 초점을 맞춘다. 프롬프트 인젝션, 모델 탈취, 데이터 유출 등 AI 모델을 겨냥한 특화된 위협에 대응해 모델의 무결성을 유지하고, 모델이 실행되는 데이터센터·클라우드 인프라 계층까지 전방위 보안을 제공한다.

'포티AI-어시스트(FortiAI-Assist)'는 보안 운영(SecOps)과 네트워크 운영(NetOps)을 지원하는 생성형 AI 어시스턴트다. 복잡한 위협 조사 과정을 자연어로 도와주고, 침해 사고 발생 시 즉각적인 대응 방안을 제시해 보안 담당자의 반복적인 분석 업무를 줄이고 스킬 갭을 보완한다.

마지막으로 이 모든 솔루션의 바탕에는 '포티가드(FortiGuard) AI 기반 보안 서비스'가 있다. 전 세계 수백만 개 센서에서 수집되는 방대한 텔레메트리 데이터를 AI·머신러닝으로 분석해 웹·애플리케이션·파일·기기 전반의 위협을 식별하고, 아직 알려지지 않은 제로데이 공격까지 조기에 차단하는 인텔리전스를 제공한다.

AI가 더해진 SOC, '조건부 자율 운영'으로

― 생성형 AI나 에이전트형 AI가 보안 운영에 도입되면서 SOC 모습도 달라지고 있다. 포티넷이 생각하는 이상적인 'AI 기반 보안 운영' 모습은 무엇인가. 보안 담당자의 역할은 어떻게 바뀔까.

포티넷이 지향하는 방향은 '조건부 자율 SOC'라는 표현이 가장 가깝다. 탐지·분석·대응의 상당 부분을 시스템이 스스로 처리하고, 사람은 정책 결정과 최종 승인 같은 고차원 의사결정에 집중하는 구조다. 아직 기술적으로 완전 무인 SOC에 도달한 것은 아니지만, 생성형 AI와 멀티 에이전트 기술을 활용하면 반복적인 수작업을 최소화하고 위협에 대응하는 속도를 기계에 가깝게 끌어올릴 수 있다고 보고 있다.

이런 환경에서는 보안 담당자의 역할도 바뀐다. 예전처럼 개별 이벤트를 하나씩 들여다보는 '이벤트 분석가'가 아니라, AI가 그룹화한 인시던트와 자동 대응 플레이북을 검토해 최종 조치를 승인하고, 전체 보안 체계와 거버넌스를 설계·관리하는 '아키텍트' 혹은 '전략가'에 가까운 역할을 맡게 된다. 실제로 포티넷의 통합 SOC 플랫폼을 도입한 고객 가운데는 보안팀 생산성이 최대 99%까지 향상됐다는 결과도 있는데, 이는 같은 인력으로 더 넓은 공격 표면을 관리할 수 있다는 의미이기도 하다.

AI 기반 공격, '기계의 속도'에 맞춘 통합 방어 필요

― 한편 공격자들도 AI를 활용해 공격을 고도화하고 있다. 향후 AI 기반 공격의 특징과, 이에 대응해 우선 강화해야 할 방어 영역은 무엇이라고 보나.

포티넷은 앞으로의 사이버 공격을 관통하는 키워드를 '공격 수명 주기의 가속화'와 '사이버 범죄의 산업화'로 보고 있다. 특히 공격자가 매 단계에 직접 개입하지 않아도 자율적으로 판단·실행하는 사이버 범죄 에이전트의 등장이 가장 큰 위협이라고 본다. AI를 활용해 타깃 식별부터 침투, 데이터 갈취까지 8분이면 끝낼 수 있다고 한다. '기계의 속도' 공격이 현실화되고 있는 것이다. 방어 측도 같은 속도를 따라가지 못하면 의미 있는 대응이 어렵다.

따라서 가장 먼저 강화해야 할 영역은 위협 인텔리전스와 탐지·대응 프로세스를 하나로 연결해 탐지·봉쇄 주기를 밀리초(ms) 단위로 줄이는 통합 방어 체계다. 여기에는 인간 사용자뿐 아니라 자동화 에이전트 같은 비인간 ID까지 포괄하는 계정 중심 보안, AI가 만들어내는 변종 악성코드와 회피 기법을 실시간으로 포착하는 행동 기반 탐지, 그리고 그 결과를 자동 대응으로 연결하는 자율 운영 역량이 모두 포함된다.

데이터 마스킹과 소버린 아키텍처…'책임 있는 AI' 원칙

― AI를 보안에 활용하면서도 데이터 주권과 프라이버시, 책임 문제에 대한 우려가 커지고 있다. 포티넷이 제품·서비스를 설계할 때 적용하는 내부 원칙이 있다면.

포티넷은 AI 혁신을 적극 수용하면서도, 그 과정에서 기업의 가장 중요한 자산인 데이터를 보호하는 것을 최우선 원칙으로 삼고 있다. 첫 번째가 실행 단계에서의 철저한 데이터 은폐(Masking)다. 포티AI(FortiAI)는 질의 과정에서 IP 주소, MAC 주소, 기기 명칭 등 프라이버시와 연관될 수 있는 정보를 LLM으로 보내기 전에 자동으로 마스킹 처리한다. 결과가 반환될 때만 다시 역매핑해 사용자에게 보여주는 구조로 설계해, 외부 AI 모델에 조직 내부 정보가 직접 유입되는 것을 원천 차단한다.

두 번째는 데이터 주권(Data Sovereignty)을 물리적으로 보장하는 것이다. 규제가 강한 금융·공공 기관을 위해 데이터가 특정 관할권을 벗어나지 않도록 하는 '소버린(Sovereign) 아키텍처'를 제공하고 있다. '포티SASE 소버린(FortiSASE Sovereign)'은 로그와 사용자 트래픽을 지역 경계 안에서만 처리하도록 설계돼, 기업이 데이터에 대한 완전한 통제권과 운영 자율성을 유지하면서도 최신 AI 보안 기능을 안심하고 활용할 수 있는 환경을 제공한다.

보안을 통합된 플랫폼 아키텍처로 바라봐야

― 2026년 현재 한국 기업 CISO가 AI 보안 전략을 세울 때, 꼭 우선순위에 둬야 할 한 가지를 꼽는다면.

무엇보다 보안을 개별 제품의 나열이 아닌 '통합된 플랫폼 아키텍처'로 바라보는 관점이 중요하다고 말하고 싶다. 네트워크, 클라우드, 보안 운영이 서로 다른 솔루션과 팀으로 파편화된 상태에서는 어떤 AI 기술을 도입해도 결국 가시성의 사각지대가 생기기 마련이다. 내부망부터 클라우드, 원격 근무 환경까지 공격 표면 전반을 하나의 구조로 통합하고, 그 위에 AI 기반 자동화와 분석을 얹는 체계를 우선적으로 고려하는 것이 AI 보안 전략의 출발점이 돼야 한다고 생각한다.

정종길 기자
jk2@chosunbiz.com