“100개 이상의 AI 에이전트 사용, 단일 모델의 편향성·오류 극복”

AI 보안 시스템 ‘엠대시’ 개발 주도
김태수 MS 보안 담당 부사장

“성능이 아무리 뛰어나도 단일 인공지능(AI) 모델은 때때로 편향을 보이거나 틀린 답을 낼 수 있습니다. 여러 모델이 협업하는 ‘앙상블’ 시스템은 여러 모델의 고유한 강점과 다양한 관점을 결합해 이러한 한계를 상호 보완합니다.”

지난 14일(현지 시각) 김태수<사진> 마이크로소프트(MS) 보안 담당 부사장은 본지와의 화상 인터뷰에서 MS가 최근 새롭게 공개한 AI 보안 시스템 엠대시(MDASH)에 대해 이같이 말했다. MDASH는 여러 AI 모델과 여러 전문 에이전트를 묶어서 소프트웨어 취약점을 찾고 검증하는 사이버 보안 특화 시스템이다. 한국인인 김 부사장은 작년 미국 국방부 산하 연구 기관인 ‘DARPA’가 처음으로 연 ‘AI 사이버 챌린지(AixCC)’에서 1위를 차지한 팀을 이끈 보안 전문가다. 미 조지아텍 컴퓨터공학과 교수이면서 올해 1월 MS에 합류해 사이버 보안 분야 연구를 이끌고 있다. 그는 MDASH의 개발을 주도했다.

최근 보안 업계는 앤스로픽의 ‘미토스 충격’으로 술렁이고 있다. AI의 뛰어난 보안 능력이 자칫 해킹으로 이어질 수 있다는 경고음이 울리는 가운데, 업체들은 AI를 활용해 사이버 보안을 강화하는 솔루션을 잇따라 내놓고 있다. 앤스로픽의 미토스, 오픈AI의 GPT-5.5-Cyber 등이 사이버 보안에 특화된 고도의 단일 모델이라면, MDASH는 ‘집단지성’을 높인 AI 보안 감사 조직이다. 100개 이상의 특화 AI 에이전트가 각기 다른 모델을 활용해 취약점을 찾고, 검증하고, 재현 가능성을 따져보는 구조다. 김 부사장은 “모든 보안 감사에 값비싼 모델을 쓸 필요 없이 작업 난도와 특성에 따라서 유연하게 모델과 에이전트를 바꿔가며 처리할 수 있다”며 “복잡한 구조적 취약점까지 찾아내고 검증할 수 있다”고 했다.

MDASH는 사이버 보안 분야 벤치마크(성능 평가)인 ‘사이버짐(CyberGym)’에서 1위를 차지하는 등 좋은 성능을 검증받았다. 김 부사장은 “최근 강력한 AI 모델로 인해 해커들이 취약점을 예전보다 더 쉽게 찾아내고 있다”며 “이 때문에 과거처럼 소프트웨어 출시 직전에만 보안 감사를 진행하는 방식에서 벗어나, 개발 단계에서부터 선제적으로 취약점을 찾고 수정하는 이른바 ‘시프트 레프트(Shift-left)’가 필수적인 트렌드로 자리 잡고 있다”고 했다.