AI 에이전트가 한 작업 취소도 가능 … 기업에 안전한 AI 환경 지원

존 제스터 빔 소프트웨어 최고수익책임자
에이전트 실시간 스캔해
어떤 데이터 접근하는지
유형에 따라 일일이 분류
민감한 정보는 별도관리

존 제스터 빔 소프트웨어 최고수익책임자

올해 기업들의 최대 화두는 인공지능(AI) 에이전트를 사내 시스템에 적용하는 것이다. 직원들이 직접 AI 에이전트를 만들어 자신들의 업무를 효율화하고, 그 에이전트들이 회사 내 반복 작업을 완전히 자동화해주며 생산성을 대폭 높여주기 때문이다.

동시에 가장 큰 고민은 'AI 에이전트를 어떻게 관리할 것인가'다. 방치된 에이전트는 데이터 유출의 통로로, 기업의 보안 리스크로 작용한다.

이 질문에 대해 존 제스터 빔 소프트웨어 최고수익책임자(CRO)는 최근 매일경제신문과 만나 "AI 에이전트를 활용하면서 아이덴티티(ID)를 부여하고 접근(액세스)을 관리하지 않으면 그것은 더 이상 유효하지 않다"면서 올바른 거버넌스 체계를 갖춰야 한다고 강조했다.

빔 소프트웨어는 기업들이 다양한 환경에서 데이터를 관리하고 복원할 수 있도록 지원하는 소프트웨어를 개발하는 기업으로, AI 에이전트가 부상하는 흐름에 맞춰 지난해 시큐리티AI를 인수하며 관련 역량을 확충했다.

제스터 CRO가 설명한 기업들의 애로사항은 AI 에이전트를 안전하게 제공하는 것이다. 기업들은 사내 에이전트들이 어떠한 데이터에 접근하는지, 비정상적으로 작동하지는 않는지를 모니터링하는 데 어려움을 겪고 있기 때문이다. 직원들이 개인적으로 클로드 등을 활용해 제작하는 에이전트는 파악하기조차 어렵다. 그는 "전 세계 정보보호책임자(CISO)들을 만나면 모두 생성형 AI에 보안, 접근 권한 등의 기능을 적용해 사용하는 데 어려움을 겪고 있다"고 설명했다.

이를 위해 빔 소프트웨어가 제공하는 데이터 소프트웨어는 실시간으로 사내에 활용되고 있는 에이전트를 스캔한 후 이들이 어떠한 데이터에 접근하고 있는지, 각 에이전트별 적용되고 있는 정책은 무엇인지 파악할 수 있도록 한다.

또한 에이전트가 접근하는 데이터는 비정형 데이터라도 그 안에 들어 있는 정보를 이름, 전화번호, 나이, 키, 계정정보 등 유형에 따라 분류하고 민감한 데이터는 별도로 레이블링해 주의를 기울여야 하는 에이전트를 쉽게 구별할 수 있도록 한다.

제스터 CRO는 "기능 중 하나로 '에이전트 커맨더'가 있는데, 이는 에이전트가 한 작업을 실행 취소할 수 있도록 한다"며 "이는 단순히 회사 데이터를 관리해주는 것을 넘어 에이전트가 원하는 대로 행동할 수 있도록 보조하는 것"이라고 설명했다.

제스터는 전반적인 데이터 관리 측면에서 기업들의 내부 정책도 중요하다고 조언했다. 특히 중복되거나 오래된 데이터를 최대한 정리하는 것을 통해 유지보수 비용을 낮출 수 있고, 보안 측면에서도 공격 표면을 줄일 수 있다는 설명이다.

또한 AI 에이전트 관련 정책을 설정할 때도 '1년 이상 지난 파일은 에이전트에 공유하지 않는다'와 같은 명령을 통해 AI가 이전 데이터로 오염되는 것을 막을 수 있다고 말했다.

한국을 포함한 아시아 시장은 빔 소프트웨어의 매출 규모 측면에서 유럽, 미국에 이어 세 번째 시장이지만 올해 특히 한국 시장에 집중하고 있다. 증가하는 AI 에이전트 수요와 함께 안전한 활용을 위한 기술에 대한 수요도 늘고 있기 때문이다. 제스터 CRO는 "한국은 또한 AI 기본법과 같은 정책이 올해 초 시행되면서 기업들이 특히 관심이 많은 분야"라며 "다른 국가보다도 AI 분야에서 앞서 있고, 관련 규제를 준수하려면 어떻게 해야 하는지가 중요해지고 있다"고 밝혔다.

[정호준 기자]