[AI 에이전트 간첩 뜬다 上] 친절한 AI가 흉기로⋯ 보안 리스크도 ‘쑥쑥’
AI 에이전트로 인한 보안 리스크도 급증하는 중… 생성형 AI 보안 통제 도입한 조직은 47%에 불과
국내뿐 아니라 전 세계 기업들이 ‘AI 에이전트’ 급물살을 타고 있다. 하지만, AI 에이전트가 맡는 영역이 빠르게 늘어나는 만큼 보안 리스크도 함께 급증하고 있다. 원활한 AI 에이전트 활용을 위해서는 보안 시스템을 먼저 갖춰야 한다는 것이 전문가들의 중론이다.
22일 IT 업계에 따르면 전 세계적으로 사람과 AI 에이전트가 협업하는 ‘사람-에이전트 팀’이 빠르게 확산되고 있다. 최근 마이크로소프트(MS)가 공개한 AI 보안 보고서 ‘사이버 펄스’에 따르면 포춘 500대 기업의 80% 이상이 AI를 활용, 프로그램을 구축하는 ‘바이브코딩’ 도구로 활성 에이전트를 운용 중이다. 바이브코딩의 확산으로 지식 근로자들이 직접 에이전트를 개발할 수 있는 환경이 마련되면서 AI 기반 자동화가 산업 전반에 대세로 자리 잡고 있다.
기업들이 적극적으로 AI 에이전트를 도입하면서 보안 및 컴플라이언스(기업윤리) 통제 수준을 앞지르는 사례도 곳곳에서 발견되고 있다. 하이포테시스 그룹의 조사에 따르면 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있는 것으로 확인됐다. 또한, MS의 ‘데이터 보안 지수’에서 생성형 AI 보안 통제를 도입한 조직은 전체의 47%에 불과했다.
이 같은 취약점을 파고드는 경우도 곳곳에서 확인되고 있다. 대표적인 것이 ‘모리스 Ⅱ’다. 코넬 테크, 이스라엘 공과대학교, 인튜이트 연구원들이 ‘적대적 자가 복제 프롬프트’를 사용해 만든 모리스 Ⅱ는 1988년 인터넷을 통해 배포된 가장 오래된 컴퓨터 웜(악성코드) 중 하나이자 주류 언론의 주목을 받은 최초의 웜인 ‘모리스’에서 이름을 따왔다.
생성형 AI 에코시스템은 생성형 AI 서비스로 구동되는 상호 연결된 에이전트로 구성된다. 모리스 Ⅱ는 감염된 에이전트가 적대적 메시지를 에코시스템 내의 새로운 에이전트에게 전파하도록 함으로써 상호 연결성을 악용한다. 생성형 AI 기반 이메일 어시스턴트에 스팸 메시지를 넘쳐나게 해 커뮤니케이션 채널을 방해하거나, 개인 데이터를 추출하는 프롬프트를 생성해 사용자의 개인정보를 침해하고 데이터를 유출하는 것도 가능하다.
미국 AI 에이전트 플랫폼 ‘옥탄AI’의 맷 슐리히트 최고경영자(CEO)가 공개한 커뮤니티 ‘몰트북’에서도 보안 문제가 확인됐다. 몰트북 AI들의 기반인 AI 에이전트 ‘오픈클로’는 이용자의 SNS, 이메일 등 광범위한 개인정보에 접근하는 것이 가능하다. 글로벌 보안 기업 위즈는 몰트북의 설계 결함으로 인해 수천명의 개인 데이터가 노출됐다고 분석했다.
네덜란드 헬스케어 스타트업의 안드레 포켄 최고기술책임자(CTO)는 최근 “AI가 PC 메시지를 훑어보고 사전 안내 없이 상품을 결제했다”며 “섬뜩해서 즉각 중단했다”고 말했다. MS AI 안전팀은 “오픈클로는 기업용으로 쓰기엔 아직 보안이 취약하다”며 공식적인 우려를 제기했고, 글로벌 보안 기업 시스코 역시 “최악의 경우 금융정보가 유출돼 무단 송금까지 벌어질 수 있다”고 경고했다.
이 같은 문제 때문에 반도체업계 등 기밀 유출에 민감한 국내 주요 기업들은 외부 생성형 AI 모델의 사내망 사용을 금지했다. 네이버와 카카오는 최근 사내에서 오픈클로를 쓰지 말라는 공지를 내렸다. 직장인 익명 커뮤니티 블라인드에서도 회사 보안팀이 오픈클로 사용 여부를 조사하고 있다는 얘기가 회자되고 있다.
업계 관계자는 “AI 에이전트를 도입하면 생산성이 높아지는 것은 확실하지만, 보안이 제대로 갖춰지지 않으면 쌀을 넣고 곳간을 열어두는 것과 마찬가지”라며 “철저한 보안 정책을 수립한 뒤에 AI 에이전트를 도입하는 것이 필수다. 이를 소홀히 하면 큰 피해가 발생할 수 있다”고 우려했다.
박준영 기자 pjy60@viva100.com