"AI 에이전트 시대, 감당할 수 있겠습니까?"…가시성 확보 관건

베스핀글로벌 'AI 파트너스데이'서 필수 보안전략 발표

[디지털데일리 김보민기자] 인공지능(AI) 에이전트를 도입하는 기업이 증가하면서 쉽게 탐지하기 어려운 '섀도(Shadow)' 위협이 거세지기 시작했다. 직원 중 누가 어떤 AI를 사용하고 있고, 에이전트가 얼마나 많은 접근권한을 부여 받은지 파악하기 어렵다는 우려도 커지는 분위기다.

3월31일 서울 양재 엘타워에서 열린 '베스핀글로벌 AI 파트너스 데이'에 모인 보안 전문가들은 가시성을 확보하는 것이 시작이라고 입을 모았다. AI 활용과 인프라 현황을 실시간으로 파악할 기반을 마련하고 이후 접근통제, 권한제어, 레드티밍 등 조치를 취할 때가 왔다는 취지다.

◆ 커지는 AI 보안 구멍…"눈에 보이지 않으면 통제 불가능"

조성윤 클라우드플레어 파트너솔루션 엔지니어는 이날 '보안 위협의 역설' 트랙 발표를 통해 "데이터 유출 사고 중 95%는 잘못된 절차(프로세스)와 사용자 실수로 발생한다"며 "조직 내에서 사용하는 AI 및 모델을 어떻게 통제할 것인지에 대한 고민을 할 때"라고 밝혔다.

신원(아이덴티티) 보안 기업 옥타도 공감대를 표했다. 장희재 옥타 기술총괄 전무는 "기업들이 모델컨텍스트프로토콜(MCP)를 통해 호출하는 AI 도구(툴)는 58개 수준"이라며 "58개 외부 툴을 호출할 때 수백개 에이전트가 연계되고, 수만명 사용자가 이를 활용할 수 있다"고 설명했다. 이어 "하루에 약 10개 정도 테스트를 수행한다고 하면 58억가지 접근정책표면(이하 패스)이 생기는데 이는 58억가지 판단이 이뤄져야 한다는 의미"라고 덧붙였다.

촘촘한 보안 설계가 없을 경우 섀도 위협에 노출될 가능성이 커질 수 있다는 경고도 나왔다. 조 엔지니어는 "직원들이 관리되지 않은 로컬 MCP 서버를 사용하거나, 승인되지 않은 AI를 사용하고 있다는 현장 어려움이 있다"며 "어떤 AI 애플리케이션이 위험해 차단해야 하는지 모르겠다는 의견도 있다"고 전했다.

이러한 우려는 더욱 거세질 전망이다. 강진하 베스핀글로벌 보안서비스 총괄은 "AI가 스스로 행동하며 혁신하는 시대가 왔지만 역설적이게 그만큼 감당해야 할 보안 사각지대도 기하급수적으로 늘고 있다"며 "정책 수립, 취약점 시뮬레이션, 실시간 보호, 보안 운영 등 4단계를 기반으로 통합방어 체계를 갖춰야 할 것"이라고 말했다.

이들은 가시성을 확보한 뒤 접근 통제, 권한 제어, 레드티밍 등 조치를 취하는 것이 시작이라고 입을 모았다. 조 엔지니어는 "눈에 보이지 않으면 통제할 수도 없다"며 "가시성을 확보한 뒤 위험(리스크)에 대한 관리 거버넌스를 확보하는 것이 중요하다"고 제언했다. 장 전무는 "AI 에이전트는 자율성을 갖고 있지만 특정 사용자를 대체하기도 한다"며 "어떠한 사용자 흐름(컨텍스트)을 가지고 움직이느냐가 중요하기 때문에 가시성을 보여주는 것이 핵심"이라고 말했다.

◆ 위협 감지하고 데이터 손실 막고…선제 대응 관건으로

이날 각 기업은 가시성을 확보하고 AI 에이전트 위협에 선제 대응할 수 있는 전략을 소개했다.

베스핀글로벌과 함께 무대에 오른 에임인텔리전스는 레드티밍 서비스 '테리온(Therion)'과 가드레일 서비스 '스타포트(Starfort)'를 소개했다. 테리온은 해킹·공격 시나리오를 자동 생성하고 실행할 수 있어 프롬프트 인젝션, 탈옥(제일브레이크), 데이터 유출을 막을 수 있다. 스타포트는 AI 에이전트를 방어 및 통제할 수 있고 입력, 출력, 행동을 실시간 감지할 수도 있다. 정책 기반으로 위험 행동도 차단한다.

옥타는 기존 플랫폼을 고도화한 '옥타 포 에이아이 에이전트(Okta for AI Agent)' 일반공개(GA) 출시를 앞두고 있다. 해당 솔루션은 확장성 높은 에이전트 인증을 비롯해 인가 및 감사를 위한 단일 보안 레이어를 지원한다. 감지 및 발견, 생성 및 등록, 인가 및 보호, 거버넌스 및 모니터링 등이 모두 가능하다. 접근권한 검토와 행위 모니터링, 지속 위협 감지도 이를 통해 수행할 수 있다.

클라우드플레어는 시큐어액세스서비스엣지(SASE) 플랫폼을 통해 생성형 AI 및 에이전트형 AI 활용을 보호하고 있다. 시큐어웹게이트웨이(SWG)를 도입해 직원들이 AI 사용 현황에 대한 가시성을 확보하도록 돕고, 데이터 손실 방지 도구를 지원하는 방식이다.

MCP 서버 및 포털을 통한 제로트러스트네트워크액세스(ZTNA) 전략도 고도화하고 있다. 이를 통해 관리 영역에서 벗어난 로컬 연결을 전환하고 신원 정책을 통해 에이전트 접근 범위를 제한할 수 있다. 서버 및 서비스형소프트웨어(SaaS) 등 범위도 설정할 수 있다.

강 총괄은 "신뢰는 곧 경쟁력"이라며 "베스핀글로벌은 AI와 인프라 데이터 보안 등 많은 경험과 5000개 이상 고객사를 보유한 이력을 바탕으로 AI를 안전하게 도입할 수 있도록 함께하겠다"고 강조했다.