스스로 판단해 해킹까지 가능한 AI…세계는 지금 新보안전쟁

자율형 AI 에이전트 등장 파장

정부는 배경훈 부총리 겸 과학기술정보통신부 장관 주재로 지난 16일 과학기술관계장관회의를 열어 미토스와 관련된 보안 위협 대응방안을 논의했다. 연합뉴스

- ‘자율 해킹’ 미토스 공개 후폭풍
- 업계 “어느정도 통제할지 논의를”
- 정부, 보안위협 대응점검 분주
- 설치형 보안SW 제도 개선 착수
- 오픈AI는 ‘방어 AI’ 주도권 경쟁

미국 AI기업 앤트로픽이 내놓은 차세대 모델 ‘미토스(Mythos)’는 인간 통제를 벗어나는 ‘자율형 AI 에이전트’의 대표적 사례로 꼽힌다. 인간 개입 없이 AI가 ‘자율 해킹(국제신문 지난 16일 자 2면 보도)’이 가능함을 보여준다. 기존 AI가 인간 질문에 답하는 수준이었다면 자율형 에이전트는 목표만 설정하면 스스로 계획을 세우고 실행까지 마친다. 미토스가 해커들 손에 들어가면 정교한 알고리즘을 통한 금융권 해킹 시도가 급증할 것이라는 우려가 나온다. 이에 따라 미국 AI업계, 금융 당국은 물론 국내 관련 업계에서도 대책 마련에 들어갔다. 전문가들은 인간 통제를 벗어난 AI 개발에 대한 윤리적 논의를 해야 할 시점이라고 입을 모은다.

▮흔들림 없는 보안 중요

미국 AI기업 엔트로픽 로고. 로이터 연합통신

19일 업계에 따르면 앤트로픽이 최근 제한적으로 공개한 차세대 AI 모델 ‘클로드 미토스 프리뷰(미토스)’는 자율형 에이전트 기반으로, 단순 명령 수행을 넘어 스스로 취약점을 탐지하는 기능을 갖췄다. 대표적인 보안 중심 오픈소스 운영체제(OS) ‘오픈 BSD’에서 지난 27년간 발견되지 않았던 설계 결함을 찾아내고 이를 기반으로 서비스 거부(DoS) 공격까지 수행할 수 있는 수준으로 알려졌다. 알려지지 않은 취약점을 발굴하고 이를 공격에 활용하는 속도는 인간 해커가 수개월 걸리던 것을 수시간 단위로 단축하는 수준이다.

김영훈 AWS코리아 부사장은 지난 16일 서울 코엑스에서 열린 정보통신망 정보보호 콘퍼런스 ‘NetSec-KR 2026’의 기조연설을 맡아 AI 기술의 진화에 대한 윤리적 문제를 제기했다. 김 부사장은 “AI가 일련의 규칙을 준수하는 단순 자동화에서 출발해 이제는 인간 개입이 줄어드는 완전 자율 멀티 에이전트 시스템으로 발전하고 있다”며 “인간 통제를 벗어난 불확실성이 제기되면서 보안과 윤리적 문제가 국가적 어젠다가 되고 있다”고 말했다. 이어 “우리가 어느 정도의 컨트롤(통제 또는 제어)을 계속 유지할 것인지 깊은 논의가 필요한 시점”이라고 강조했다.

김호원 한국정보보호학회 회장 역시 개회사에서 “미토스가 시사하는 것처럼 AI는 단순한 도구가 아닌 자율적인 행위 주체가 된 상황”이라며 “흔들림 없는 보안 기초 위에서 구현하는 AI 대전환이 무엇보다 중요하다”고 강조했다.

▮정부 보안점검 분주

정부는 지난 16일 배경훈 부총리 겸 과학기술정보통신부 장관 주재로 과학기술관계장관회의를 열어 대책을 논의했다. 배 부총리는 “수십 년간 축적된 보안 체계가 손쉽게 무력화될 수 있다. 부처 간 협력을 통해 흔들림 없는 사이버보안 대비 태세를 유지하겠다”고 말했다. 과기정통부는 지난 14, 15일 국내 주요 정보보호 기업과 간담회에서도 미토스와 관련된 보안 위협을 대응 방안을 점검했다.

김진수 한국정보보호산업협회 회장은 “AI로 인한 보안 위협이 상수라는 가정 아래 제로 트러스트 보안 체계가 기업과 각 기관에 확립돼 있어야 한다”고 지적했다. 제로 트러스트란 보안과 관련해서 모든 시도를 믿지 않고 단계별로 항상 검증하는 방식(국제신문 지난달 30일 14면 보도)을 말한다. 전문가들은 AI 자율 해킹 시대에는 ‘완벽한 방어’란 없다고 말한다. 모든 접근을 의심하고 검증하는 보안 체질 개선이 기업 생존의 필수 조건이 될 것이라고 강조한다.

이와 관련, 국가인공지능전략위원회는 지난 16일 보안특별위원회 정례회의를 열어 금융 분야 취약점으로 지목되는 설치형 소프트웨어(SW) 제도 개선에 착수했다. 설치형 보안 소프트웨어는 중앙집중식이고 업데이트 지연 때문에 보안에 취약하다는 평가를 받는다. 보안특위 위원들은 AI 기반 실시간 방어 체계를 구축하고 독자 AI 파운데이션 모델 프로젝트를 안보 역량 향상 프로젝트로 격상해야 한다고 강조했다.

앤트로픽은 미토스를 일반에 공개하는 대신 아마존 애플 구글 마이크로소프트 JP모건체이스 등이 참여하는 사이버 보안 계획 ‘프로젝트 글래스윙’에 선공개할 방침이다. 해커들이 악용하기 전에 ‘화이트 해커’들에게 무기를 먼저 주는 ‘선제적 방어 전략’이다.

이에 맞서 오픈 AI는 보안 전용 AI 모델을 일부 보안 전문가에 한정 공개하며 앤트로픽과 ‘방어용 보안 AI 주도권 경쟁’에 나섰다. 오픈 AI는 소프트웨어(SW) 보안 취약점 탐지에 최적화한 ‘GPT-5.4-사이버’ 모델을 일부 전문가에게 우선 제공한다. ‘GPT-5.4-사이버’는 오픈 AI 최상위 모델 GPT-5.4를 보안 작업에 맞춰 미세조정한 모델이다. 소스 코드 없이도 소프트웨어 실행파일을 분석해 악성코드 가능성이나 취약점을 파악할 수 있는 ‘2진 역공학(바이너리 리버스 엔지니어링)’ 기능을 갖췄다.

◇ 글로벌 AI 업체들의 자율형 AI 　 개발·대응 현황
업체명	앤트로픽	오픈AI
모델명	Mythos	GPT-5.4-Cyber
특징	취약점 자율 탐지, DoS 공격	실행파일 분석
대응전략	프로젝트 글래스윙(Glasswing)	전문가 한정 미세조정 모델 제공
주요 타깃	글로벌 빅테크, 금융권	화이트 해커, 보안 엔지니어
※자료: 업계 종합