미토스 쇼크에 AWS 경고…"AI 통제 범위 논의 시급해"

자율 에이전트 확산에 보안·윤리 국가 어젠다 부상
환경 격리·신원관리·행동제어 3대 대응 전략 제시

NetSec-KR 2026 김영훈 AWS코리아 부사장이 16일 서울 강남구 코엑스에서 열린 정보통신망 정보보호 컨퍼런스 'NetSec-KR 2026'에서 기조연설을 발표하고 있다. [권하영 촬영]

(서울=연합뉴스) 권하영 기자 = 글로벌 클라우드 기업 아마존웹서비스(AWS)가 생성형 인공지능(AI)을 넘어 인간의 논리와 추론을 모방하는 '에이전틱 AI' 시대가 현실화함에 따라, 인간의 통제 범위와 보안 대책에 대한 사회적 논의가 시급하다고 제언했다.

김영훈 AWS코리아 부사장은 16일 서울 강남구 코엑스에서 열린 정보통신망 정보보호 컨퍼런스 'NetSec-KR 2026' 기조연설에서 AI 기술의 진화 단계와 이에 따른 보안 전략을 발표했다.

김 부사장은 "AI가 일련의 규칙을 준수하는 단순 자동화에서 출발해 이제는 인간의 개입이 줄어드는 완전 자율 멀티 에이전트 시스템으로 발전하고 있다"며 "인간의 통제를 벗어난 불확실성이 제기되면서 보안과 윤리적 문제가 국가적 어젠다가 되고 있다"고 진단했다.

특히 최근 유례 없는 성능과 속도로 취약점 탐지·공격이 가능하다고 알려진 앤트로픽의 차세대 AI '미토스' 사례를 언급하며 "우리가 어느 정도의 컨트롤을 계속 유지할 것인지에 대한 깊은 논의가 필요한 시점"이라고 강조했다.

실제 한국의 AI 도입·활용은 빠른 속도로 진행되고 있지만, 정작 현장에서는 가이드라인 부족을 체감하고 있다.

한국 IDC 조사에 따르면 2027년까지 국내 조직의 약 60%가 복합 AI 체계를 채택할 것으로 전망되며, 2029년에는 직원 12명 이하 규모로 1천억달러 매출을 달성하는 AI 주도형 기업이 한국에서만 5곳 이상 등장할 것으로 예상된다.

그러나 국내 기업의 50%는 여전히 기획·평가 기준 부족을 주요 장애물로 꼽고 있는 실정이다. 이는 글로벌 평균인 44%보다도 5.9%p 높은 수치다.

이에 김 부사장은 에이전틱 AI 보안을 위한 기술적 해법으로 '아마존 베드록 에이전트코어'를 제시하며, 프로덕션 환경 격리(Runtime), 에이전트 신원·접근 관리(Identity), 행동 범위 정책 제어(Policy) 등 3가지 보안 체계를 강조했다.

이와 함께 AWS가 한국을 AI 허브 국가로 육성하기 위해 추진 중인 대규모 투자 계획도 재확인했다.

AWS는 오는 2031년까지 한국 인프라에 7조원을 추가 투자해 총 누적 투자액 12조6천억원을 달성하고, SK그룹과 협력해 2027년까지 울산 AI 존을 구축할 예정이다.

NetSec-KR 2026 류제명 과학기술정보통신부 제2차관이 16일 서울 강남구 코엑스에서 열린 정보통신망 정보보호 컨퍼런스 'NetSec-KR 2026'에서 축사를 발표하고 있다. [권하영 촬영]

한편, 한국인터넷진흥원(KISA)이 주최하고 한국정보보호학회가 주관하는 제32회 'NetSec-KR 2026'은 이날부터 이틀간 AI 안전과 공급망 보안, 제로트러스트, 에이전틱 AI와 피지컬 AI 등 다양한 정보보호 관련 주제로 총 25개 세션에서 75개 발표가 진행된다.

김호원 한국정보보호학회 회장은 개회사에서 "앤트로픽 미토스가 시사하듯 AI가 단순한 도구가 아닌 자율적인 행위 주체가 된 상황"이라며 "흔들림 없는 보안 기초 위에서 구현하는 AI 대전환이 무엇보다 중요하다"고 강조했다.

류제명 과학기술정보통신부 제2차관은 축사를 통해 "작년 전방위적인 해킹 사고로 인한 국민 불안을 해소하기 위해 범정부 정보보호 종합대책 기반 핵심 과제들을 이행하고 있다"며 "제도적 기반뿐만 아니라 차세대 보안 기술 개발, 인재 양성에도 박차를 가하겠다"고 말했다.

kwonhy@yna.co.kr

▶제보는 카톡 okjebo