MS도 뛰어든 ‘AI 보안’…앤스로픽·오픈AI와 정면 승부

멀티 에이전트 구조 앞세운 MS, 취약점 탐지 경쟁 본격화
“반복 업무는 AI”…보안업계, 신입보다 경력직 선호 확대

앤스로픽, 오픈AI, 마이크로소프트(MS)까지 에이전틱 AI 기반 보안 시스템 공개에 나서면서 글로벌 빅테크들의 'AI 보안 에이전트' 경쟁이 본격화되고 있다./챗GPT 생성 이미지

| 서울=한스경제 박정현 기자 | 앤스로픽, 오픈AI, 마이크로소프트(MS)까지 에이전틱 AI 기반 보안 시스템 공개에 나서면서 글로벌 빅테크들의 'AI 보안 에이전트' 경쟁이 본격화되고 있다.

생성형 AI 경쟁이 단순 성능 싸움을 넘어 취약점 탐지와 공격 대응 능력을 겨루는 단계의 보안을 차세대 핵심 경쟁력으로 삼게 된 것이다.

▲ MS "멀티 에이전트 구조가 핵심 경쟁력"

18일 MS에 따르면 기업이 최근 공개한 보안 시스템 '멀티 모델 에이전틱 스캐닝 하네스(MDASH)'는 공개 사이버 보안 벤치마크 '사이버짐(CyberGym)' 기준 업계 최고 수준의 성능을 기록했다.

앞서 나온 빅테크들의 AI가 단일 모델을 기반으로 한다면 MDASH는 100개 이상의 AI 에이전트를 역할별로 분산 배치해 운영하는게 특이점이다. 각 에이전트는 취약점 탐지와 검증, 코드 분석, 공격 가능성 토론, 악용 시나리오 증명 등을 나눠 수행한다. 다양한 모델이 반론과 검증 과정을 반복하며 취약점을 찾아내 결과적 완성도가 더 높다.

MS는 MDASH를 '효과적으로 관리되는 다양한 모델들의 앙상블'이라고 설명하며 "모든 상황에서 최적의 단일 모델은 존재하지 않는다"고 말했다.

MS가 공개한 벤치마크에 따르면 실제 MDASH는 리더보드 점수 88.45%로 앤스로픽의 '클로드 미토스 프리뷰(83.1%)', 오픈AI의 'GPT-5.5(81.8%)'를 모두 웃돌았다.

MS 보안대응센터(MSRC)의 5개년 확정 사례를 기준으로 한 회고 평가에서는 MDASH가 clfs.sys 96%(28건), tcpip.sys 100%(7건)의 재현율을 기록했으며 해당 시스템은 윈도우 네트워킹 및 인증 스택 전반에서 신규 취약점 16건도 식별했다.

▲ 앤스로픽·오픈AI에 이어 MS도 보안 AI 경쟁 가세

자율형 보안 특화 AI를 개발한 건 앤트로픽, 오픈AI에 이어 MS가 3번째다. 과거에도 MS의 시큐리티 코파일럿 등 보안에 AI 기술을 접목한 솔루션은 존재했지만 AI가 스스로 보안 구멍을 찾고 공격 경로까지 설계 및 검정하는 저율형 보안 특화 시스템이 빅테크 진영을 중심으로 급박하게 전개되고 있다. 

업계에서는 이를 두고 생성형 AI 경쟁의 무게중심이 범용 AI 성능에서 실전 보안 대응 능력으로 이동하고 있다는 분석이 나온다.

앞서 앤스로픽은 지난 4월 보안 프로젝트 '미토스'를 공개하며 업계에 충격을 안겼다. 미토스는 AI가 스스로 침투 경로를 설계하고 공격 가능성을 검증할 수 있는 수준의 보안 모델로 평가된다. 기존에는 사람이 수일에서 수주에 걸쳐 수행하던 취약점 분석 작업을 AI가 수분~수시간 내 처리할 가능성을 보여줬다는 점에서 주목받았다.

실제 미국 보안업체 캘리프 연구진은 미토스 초기 버전을 활용해 애플의 차세대 보안 기술이 적용된 맥OS를 단 5일 만에 우회하는 공격 코드를 개발하는 데 성공했다. 연구진은 복수의 버그와 다중 우회 기법을 결합해 커널 메모리 접근 권한까지 확보한 것으로 전해졌다. 이는 허용 권한보다 더 높은 권한을 탈취하는 '권한 상승' 공격으로 최악의 경우 시스템 전체 장악까지 이어질 수 있다.

오픈AI 역시 보안 경쟁에 대응하고 있다. 오픈AI는 GPT-5.4-사이버 모델에 이어 최근 보안 전용 모델 'GPT-5.5-사이버'를 선별된 파트너사 대상으로 사전 공개했다. 동시에 사이버 보안 협력 프로그램인 'TAC(Trusted Access for Cyber)' 프로젝트도 가동했다.

MS는 자율형 보안 AI 경쟁에 세 번째로 뛰어들었지만 기존 경쟁사들의 단일 모델 방식 대신 '멀티 에이전트' 구조를 내세우며 선발주자 추격에 나섰다. 특히 개별 AI 모델 성능보다 다양한 에이전트를 조율하는 시스템 아키텍처 자체가 향후 기업 보안 경쟁력의 핵심이 될 것으로 보고 있다.

김태수 MS 에이전틱 보안 부사장은 "MDASH는 MS 엔지니어링 팀이 상용 AI 모델을 활용해 실제 보안 성과를 개선하는 데 도움을 주고 있다"며 "앞으로도 모두에게 더 안전한 디지털 환경을 만들기 위한 노력을 이어갈 것"이라고 말했다.

▲ AI 보안 자동화 확산…"반복 업무 줄고 경력직 수요 증가"

AI 기반 보안 자동화가 확산되면서 사이버 보안 업계의 인력 구조 변화도 불가피할 것이란 전망이 나온다.

SK쉴더스가 발간한 EQST 헤드라인 리포트 4월호에 따르면 최근 사이버 보안 관제 환경에서는 생성형 AI 기반 운영 자동화에 대한 관심이 높아지고 있다. 경보 분류와 조사, 보고 등 반복 업무를 중심으로 AI가 분석가를 지원하는 사례가 빠르게 늘고 있다는 설명이다.

다만 보고서는 AI 결과물을 참고 및 초안 수준으로 활용하되 최종 판단은 분석가가 직접 검토·확정하는 운영 체계가 필요하다고 강조했다.

리포트는 "AI 도입은 분석가 역할을 축소하는 것이 아니라 역할의 중심을 반복 확인에서 판단과 개선으로 이동시키는 과정"이라며 "분석가는 원인 분석과 재발 방지, 탐지 정책 개선, 운영 품질 관리 등에 더 많은 시간을 투입하게 될 것"이라고 설명했다.

이화영 아레스사이버전략연구소 대표는 최근 자율형 AI 보안 모델 확산과 관련해 "현장에서도 기초적인 분석 업무를 중심으로 AI 활용이 빠르게 늘고 있다"며 "다만 인력을 완전히 대체하는 수준은 아니고 신입 채용보다는 사내 인프라와 보안 툴 이해도가 있는 2~3년차 경력직 선호가 강해지는 분위기"라고 말했다.

그는 기존 보안 AI가 단순 지원 도구 성격이었다면 최근에는 AI 자체가 보안 모델로 진화하고 있다고 평가했다.

이 대표는 "앤스로픽의 '미토스'가 애플 보안 체계를 우회한 사례처럼 앞으로도 AI를 적용한 보안 모델은 계속 등장할 것"이라며 "취약점 탐지에 특화된 모델 성능은 이미 입증되고 있지만 이를 실제 방어 체계에 어떻게 반영하고 운영할지에 대한 기준과 지표는 아직 초기 단계"라고 말했다. 이어 "AI 기반 보안 모델에 대한 고민이 이제 막 본격적으로 시작되는 상황"이라고 덧붙였다.