AI 확산의 그늘 ‘설계부터 보안’으로 걷어낸다… 팔로알토의 경고와 해법

AWS 서밋 서울에서 인공지능 시대 부작용
예방할 통합 방어 전술 공개
개발 기획부터 운영까지
데이터 유출·통제 불능 차단
프리즈마 브라우저 및 AIRS 앞세워
섀도우 AI 등 신종 위협 정조준
경계선 무너진 클라우드 환경
사후 처방 대신 선제적 내재화 조언

팔로알토 네트웍스가 AWS 서밋 서울 2026에 글로벌 스폰서로 참가했다. 팔로알토 네트웍스 제공

인공지능(AI) 기술의 급격한 확산이 기업 경영의 핵심 동력으로 부상한 동시에 기존의 방어 경계망을 흔드는 새로운 보안 위협으로 떠오르고 있다. 보안 기업 팔로알토 네트웍스는 21일까지 열린 AWS 서밋 서울 2026에서 인공지능 인프라 자체에 방어 기제를 내장하는 ‘Secure AI by Design’ 전략을 공표하며 클라우드 보안의 전면적인 체질 개선을 예고했다.

이번 행사는 아마존웹서비스(AWS)의 클라우드 서비스 출시 20주년과 서울 리전 개설 10주년을 기려 마련된 자리로, 정보기술(IT) 업계의 미래 방향성을 논하는 장이 됐다. 팔로알토 네트웍스는 행사장에 단독 부스를 마련하고 심층 세션을 진행하며 인공지능 도입 가속화에 따른 취약점 진단과 안전한 기술 활용 방안을 공유했다.

행사 기간 중 진행된 브레이크아웃 세션의 연사로 나선 팔로알토 네트웍스의 김범수 프로는 외부 생성형 인공지능 도구와 독자적인 AI 에이전트 도입이 전방위로 확산되면서 기업들이 통제 불능의 데이터 노출과 모델 취약점이라는 이중고를 겪고 있다고 진단했다.

과거의 인프라와 달리 현대의 인공지능 시스템은 고도로 연결되어 있어, 사소한 틈새로도 기업의 핵심 자산과 민감 정보가 외부로 흘러 나갈 수 있다는 지적이다.

김 프로는 위협이 발생한 뒤 수습하는 사후 대응 방식으로는 정교해진 인공지능 기반의 공격을 막아낼 수 없다고 단언했다. 서비스의 구상 단계부터 개발, 배포, 최종 운영에 이르기까지 전 주기에 걸쳐 보안 알고리즘을 체질화해야 한다는 제언이다.

특히 인가되지 않은 인공지능 활용인 섀도우 AI나 내부 중요 정보의 유출, 에이전트의 오작동 등 복합적인 위험 요소들을 단일 플랫폼 안에서 유기적으로 제어해야 한다고 설명했다. 현재의 인공지능 작업 환경이 클라우드 인프라와 긴밀히 결합되어 있는 만큼, 초기 설계 단계부터 방어벽을 세우지 않으면 기존 도구로는 식별하기 어려운 새로운 공격 표면에 노출된다는 경고도 덧붙였다.

실질적인 기술적 대안으로는 기업용 프리즈마 브라우저와 프리즈마 AIRS 시스템이 제시됐다. 프리즈마 브라우저는 사내 생성형 인공지능 및 서비스형 소프트웨어(SaaS) 이용 현황에 대한 선제적 가시성을 확보해 정보가 외부로 새 나가는 경로를 통제한다. 프리즈마 AIRS는 개발 단계에서 모델의 무결성을 검증하고 프롬프트 주입 공격을 막아내며 에이전트의 거동을 감시하는 역할을 맡는다.

이와 함께 소스코드부터 보안운영센터(SOC)까지 연동하는 코어텍스 클라우드 플랫폼을 통해 인프라 전반의 취약점을 탐지하고 위협의 우선순위를 가려 신속한 조치를 가능케 한다는 방침이다.

박상규 팔로알토 네트웍스 코리아 대표는 인공지능이 업무 효율성을 극대화하고 있지만 클라우드와의 접점이 넓어지면서 공격 표면 역시 기하급수적으로 늘어났다고 분석했다. 박 대표는 기업의 혁신 속도를 저해하지 않으면서도 자산을 지키기 위해서는 초기 단계부터 보안 가드레일을 구축하는 발상의 전환이 필수적이라며, 통합 플랫폼 중심의 접근법이 디지털 전환의 연착륙을 돕는 이정표가 될 것이라고 강조했다.

김상준 기자 ksj@donga.com