"내 챗GPT가 스파이?"…AI 에이전트 권한 노리는 해킹 공격 경보

"AI가 위기 탐지하고 대응하되 최종 의사 결정은 인간이 해야"

(사진은 기사 내용과 무관함) / 뉴스1 ⓒ News1

(서울=뉴스1) 김민재 기자 = 사용자의 권한을 위임받아 스스로 업무를 수행하는 '인공지능(AI) 에이전트'가 확산하면서 이를 노린 사이버 공격 위협도 늘어나고 있다.

특히 AI를 '부사수'처럼 활용하는 기업 환경을 겨냥해 AI 에이전트의 권한을 탈취하고 정보를 빼돌리려는 시도가 늘고 있어 주의가 요구된다.

23일 정보기술(IT)업계에 따르면 네이버클라우드는 최근 공식 블로그에 '2026년 하반기 보안 트렌드: AI가 바꾸는 보안 패러다임' 리포트를 공개했다.

리포트는 스스로 판단하고 행동하는 '에이전틱 AI' 시대가 도래하며 보안 위협 양상이 급변하고 있다고 진단했다.

핵심 위협 요인은 사용자 권한을 위임받아 업무를 수행하는 AI 에이전트다. 최근 기업들은 업무 효율을 높이기 위해 AI에 이메일 발송, 결재, 파일 관리 등을 맡기고 있다.

해커가 이 과정에 개입해 악의적 명령을 삽입하는 '프롬프트 인젝션' 공격을 가할 경우 업무 절차 전반이 무방비로 노출될 수 있다. 프롬프트 인젝션 공격은 악성 코드를 합법적 프롬프트로 위장해 민감 데이터를 유출하도록 생성형 AI 시스템을 조작하는 것이다. 해커가 입력한 정교한 명령어가 시스템의 원래 지침을 무력화하거나 덮어쓰도록 유도하여, AI가 설계자의 의도에서 벗어난 비정상적인 응답을 생성하게 만든다.

실제 오픈소스 AI 에이전트 '오픈클로'에서 사용자 승인없이 이메일을 삭제하거나 암호화폐를 송금하는 등 권한 오남용 사례가 발견돼 논란이 된 바 있다.

네이버클라우드는 이러한 위협에 대응하기 위해 조직 내 AI 에이전트 사용 현황을 파악해야 한다고 제언했다.

이를 위해서는 공식 도구와 비승인 도구를 구분하고, AI에 부여하는 권한을 최소화해야 한다. AI가 내린 결정과 행동을 실시간으로 감시하는 시스템도 구축해야 한다.

18일 경기도 고양시 킨텍스에서 열린 제25회 세계 보안 엑스포(SECON 2026)& 제14회 전자정부 정보보호 솔루션 페어(SECON 2026)에서 관람객들이 전시 부스를 둘러보고 있다. 2026.3.18 ⓒ 뉴스1 김명섭 기자

AI 에이전트가 업무와 일상생활에 깊숙이 파고들며 보안의 중심축도 변화하고 있다.

네이버클라우드는 네트워크나 인프라 중심 보안에서 데이터와 신원(Identity), AI 중심으로 패러다임이 이동하고 있다고 분석했다.

보안 분야에서 '신원'은 특정 개체와 결합한 정보 속성의 집합을 뜻한다. 이는 디지털 환경에서 해당 주체를 식별하고 접근 권한을 부여하는 근거가 된다.

특히 사람이 아닌 기계와 AI의 신원이 늘어나면서, 이들의 수명 주기와 권한 위임을 통제하는 보안 체계가 중요해졌다.

보고서는 향후 보안 운영 모델이 'AI 기반 자동화'로 진화할 것으로 내다봤다. 사람이 일일이 위협을 분석하는 것이 아니라 AI가 위기를 탐지하고 대응하는 구조다.

그러면서 오류를 줄이고 복합적 위기에 대응하기 위해서는 AI와 인간이 분업해야 한다고 주장했다.

예컨대 AI가 위협을 1차로 탐지하고 인간이 대응 전략을 수립하거나 최종 의사결정을 내려 보안 수준을 향상해야 한다는 설명이다.

네이버클라우드 측은 "기업들은 개별 설루션 도입을 넘어 AI와 데이터 중심의 보안 체계를 설계해야 한다"고 강조했다.

minjae@news1.kr

<용어설명>

■ AI 에이전트
AI 에이전트는 환경과 상호작용하고 데이터를 수집·분석한 후 사전 설정한 목표를 달성하고자 필요한 작업을 스스로 결정하고 수행하는 자율 지능형 시스템이다.

■ 에이전틱 AI
에이전틱 AI(Agentic AI)는 인공지능 기술의 최신 진화 단계로 기존의 규칙 기반 자동화나 단순한 생성형 AI를 넘어서는 자율성과 목표 지향적 행동을 갖춘 AI 시스템이다.

■ 프롬프트 인젝션
대규모 언어 모델(LLM)을 겨냥한 사이버 공격의 유형. 해커는 악성 코드를 합법적 프롬프트로 위장해 민감 데이터를 유출하도록 생성형 AI 시스템을 조작한다. 해커가 입력한 정교한 명령어가 시스템의 원래 지침을 무력화하거나 덮어쓰도록 유도하여, AI가 설계자의 의도에서 벗어난 비정상적인 응답을 생성하게 만드는 것이 특징이다.