최영삼 트렌드마이크로 상무 “AI, 편리하지만 새로운 공격 표면” [AI 2026]

CREM·에이전트형 통합 플랫폼으로 ‘기계 선분석·인간 검증’ 보안 제시

생성형 인공지능(AI)과 AI 에이전트가 기업 시스템 깊숙이 들어오면서 보안의 기준 자체가 바뀌고 있다. AI는 더 이상 생산성을 높이는 도구가 아니라 기업 데이터와 시스템을 연결하는 새로운 경로이자 공격자가 노릴 수 있는 '진입 지점'으로 작동하기 시작했다.

최영삼 한국트렌드마이크로 상무는 IT조선과의 인터뷰에서 "많은 기업이 AI를 기능으로만 보지만, 실제로는 데이터와 시스템으로 이어지는 새로운 공격 표면이 만들어지고 있다"며 "AI를 도입할지 말지보다, 어떻게 안전하게 통제하고 운영할지를 먼저 고민해야 한다"고 말했다.

최영삼 한국트렌드마이크로 상무 / 정종길 기자

최근 현장에서도 논의의 초점이 빠르게 이동하고 있다. 과거에는 AI 도입 여부 자체가 핵심 의제였다면, 최근에는 AI 사용 정책과 보안 통제 체계, 거버넌스 설계가 경영 의제로 올라오는 흐름이다. 트렌드마이크로가 최근 발표한 조사 결과에서도 보안 리더의 93%가 AI 공격의 일상화를 예상했고, 66%는 AI를 보안에 가장 큰 영향을 미칠 변수로 꼽았다.

이처럼 AI가 기업 환경 전반에 깊이 연결되면서, 공격 방식 역시 그 구조를 따라 빠르게 변화하고 있다. 최영삼 상무는 "특히 생성형 AI와 AI 에이전트를 겨냥한 공격이 현실적인 위협으로 등장하고 있다"고 말했다.

프롬프트 인젝션부터 챗봇 공급망까지

트렌드마이크로는 이러한 변화를 '사이버 위협의 인공지능화(AI-fication)'로 규정하며, 2026년을 그 전환이 본격화되는 시점으로 보고 있다. 이와 함께 공격 방식 역시 AI를 중심으로 재편되고 있다고 분석한다.

대표적으로 '프롬프트 인젝션(Prompt Injection)'은 생성형 AI와 AI 에이전트 전반에서 현실적인 위협으로 자리 잡았다. 공격자는 간접 입력이나 저장된 명령을 활용해 AI의 응답을 조작하고, 이를 통해 민감정보를 유출하거나 자동화된 작업 흐름 자체를 변형시킬 수 있다. 특히 AI 에이전트가 외부 시스템과 연동될수록 이러한 공격은 단순 정보 유출을 넘어 실제 업무 프로세스를 왜곡하는 수준으로 확대될 수 있다.

금융권을 중심으로 빠르게 현실화되고 있는 딥페이크(Deepfake) 기반 사기도 있다. 실시간 영상 합성과 다국어 음성 복제 기술이 저비용으로 확산되면서, 상담·인증·계좌 확인 등 기존 신뢰 기반 채널이 공격 표적으로 바뀌고 있다. 단순 피싱을 넘어 '사람 자체를 위조하는 공격'이 인증 체계를 우회하는 단계로 진화한 것이다.

AI 공급망을 통한 연쇄 침해 가능성도 확인됐다. 세일즈포스(Salesforce) 연동 AI 챗봇 앱인 '세일즈로프트 드리프트(Salesloft Drift)' 사례에서는 서드파티 인증 토큰이 탈취되면서 이를 사용하던 수백개 기업의 내부 데이터 접근이 가능해졌다. 개별 기업의 취약점이 아니라, 연결된 서비스 하나가 전체로 확산되는 구조다. 이는 AI 도입이 단일 시스템 문제가 아니라 연결된 생태계 전체의 리스크로 확장되고 있음을 보여주는 사례다.

최 상무는 "AI 자체보다 더 위험한 지점은 연결부"라며 "이제는 애플리케이션 단위가 아니라 AI를 중심으로 연결된 전체 생태계를 공격 표면으로 봐야 한다"고 말했다.

이처럼 공격이 '연결 구조'를 따라 확장되면서, 단순 탐지·차단 중심의 대응만으로는 한계가 드러나고 있다. 이에 따라 공격 이후 대응이 아니라, 사전에 노출된 위험을 줄이는 방향으로 보안 전략이 이동하고 있다.

공격 대응에서 '노출 관리'로…CREM 부상

이러한 변화에 대응하기 위한 전략으로 트렌드마이크로는 '사이버 리스크 노출 관리(CREM)'를 제시한다. 기존 보안이 공격 탐지와 차단에 초점을 맞췄다면, CREM은 조직이 얼마나 위험에 노출돼 있는지를 먼저 파악하고 이를 줄이는 접근이다.

핵심은 '공격 이후 대응'에서 '사전 노출 최소화'로의 전환이다. 자산, 취약점, 공격 경로를 지속적으로 분석해 실제 공격 가능성이 높은 지점을 우선적으로 제거하고, 이를 하나의 리스크 지표로 통합 관리한다.

기존에는 웹 서버, 네트워크 장비, 클라우드 자산마다 서로 다른 기준으로 취약점을 평가하다 보니 전체 리스크를 한눈에 보기 어려웠다. CREM은 자산 중요도와 실제 공격 노출 가능성을 함께 반영해 우선순위를 정리하고, 조직 전체 보안 상태를 수치로 관리할 수 있도록 한다.

최 상무는 "공격 표면이 복잡해진 상황에서는 모든 이벤트를 대응하는 방식으로는 한계가 있다"며 "어디가 가장 위험한지를 먼저 파악하고 줄이는 것이 현실적인 전략"이라고 설명했다.

결국 최근 보안의 초점은 기존 '탐지·대응'에서 '노출 관리와 우선순위 기반 대응'으로 이동하고 있다. 그리고 이는 단순한 솔루션 추가가 아니라, 보안 운영 방식 자체의 변화를 의미한다고 할 수 있다.

"기계가 먼저 보고 사람이 검증"…SOC 역할 변화

이러한 변화는 보안 운영 체계에도 직접적인 영향을 미치고 있다. 트렌드마이크로는 통합 플랫폼 '트렌드 비전 원(Trend Vision One)'을 중심으로 XDR(확장형 탐지·대응), SOAR(보안 오케스트레이션·자동화·대응), 에이전트형 SIEM(보안 정보·이벤트 관리) 등 AI 기반 분석 기능을 결합해 '기계가 먼저 위험을 식별하고 사람이 이를 검증하는' 구조를 제시한다.

AI가 방대한 로그를 상관 분석해 공격 경로를 재구성하고 대응 우선순위를 제시하면, 보안 담당자는 이를 검증하고 정책을 조정하는 역할을 맡는 방식이다. 단순 반복 업무를 줄이고, 실제 위험 판단에 집중할 수 있도록 구조를 재설계하는 접근이다.

글로벌 리서치 기관 ESG 분석에 따르면 통합 플랫폼 도입 시 보안 운영 비용 절감, 대응 속도 개선, 탐지 능력 향상 등의 효과가 나타났다. 경보의 양을 줄이고 실제 대응이 필요한 사건에 집중할 수 있도록 만들었다는 점이 의미 있는 변화로 꼽힌다.

최 상무는 "보안의 핵심은 더 많은 이벤트를 보는 것이 아니라, 무엇이 중요한지를 빠르게 판단하는 것"이라며 "AI는 판단을 대체하는 것이 아니라 보조하는 방향으로 활용돼야 한다"고 말했다.

이에 따라 SOC(보안운영센터)도 단순 모니터링 조직에서 벗어나 위협 헌팅, AI 분석 결과 검증, 정책 튜닝, 자동화 플레이북 설계 등 고도화된 역할을 수행하는 조직으로의 전환이 요구되고 있다.

산업별 AI 보안 과제와 현실 장벽

보안 전략과 운영 방식의 변화는 실제 산업별로는 다른 형태로 나타난다. 먼저 금융권은 AI 상담과 인증 시스템 확산으로 딥페이크 사기와 데이터 유출 방지가 핵심 과제로 떠올랐다. 제조업은 설계 데이터와 스마트팩토리 환경 보호, 공급망 보안이 중요하며, 공공 부문은 데이터 주권과 규제 준수가 우선 과제다. 서비스·플랫폼 기업은 챗봇과 API 연동 확대에 따라 프롬프트 인젝션과 애플리케이션 보안 대응이 핵심 이슈로 부상하고 있다.

이런 가운데 공통적인 어려움도 존재한다. 가장 큰 문제는 가시성 부족이다. 조직 내부에서 어떤 AI 도구가 사용되고 있는지조차 정확히 파악하지 못하는 '섀도우 AI' 문제가 확산되고 있다. 여기에 전문 인력 부족, 운영 모델 부재, 규제 대응 부담까지 더해지면서 AI 보안 체계 구축이 쉽지 않은 상황이다.

이 때문에 업계에서는 단일 솔루션 도입이 아니라 ▲AI 자산 식별 ▲CREM 기반 리스크 관리 ▲보안 운영 자동화 ▲AI 사용 정책 수립 ▲공급망·데이터 보호 설계를 함께 추진해야 한다는 접근이 강조되고 있다. 이는 기술 도입이 아니라 운영 체계 재설계에 가까운 과제다. 이는 AI 보안이 특정 기술이나 솔루션의 문제가 아니라, 조직 전체의 운영 체계와 관리 방식에 걸친 과제로 확장되고 있음을 보여준다.

"AI 도입 속도보다 노출 통제가 승부처"

AI 확산과 함께 데이터 주권과 프라이버시, 책임 구조에 대한 요구도 커지고 있다. 트렌드마이크로는 투명성, 프라이버시 보호, 책임성, 안전성, 인간 통제 등을 포함한 책임 있는 AI 원칙을 제시하고 있다.

마지막으로 최 상무는 AI로 인해 빠르게 기업 IT 환경이 변화하는 가운데 향후 2~3년간 보안 전략이 어떻게 변화할지를 묻는 질문에 대해 AI 환경 전반에 대한 통합적 시각이 필요하다고 강조했다. 많은 기업이 AI 모델 자체 보안에 집중하고 있지만, 실제 위험은 데이터와 API, 에이전트 등 연결된 영역에서 발생한다는 설명이다.

최 상무는 "AI를 단순한 기능이 아니라 새로운 공격 표면으로 인식해야 한다"며 "앞으로의 경쟁력은 AI를 얼마나 빨리 도입했느냐가 아니라, AI 자산과 노출을 얼마나 먼저 파악하고 통제하느냐에 달려 있다"고 말했다.

정종길 기자
jk2@chosunbiz.com