AI 미토스發 보안 위협 국내 확산 "프론티어 모델 보다 보안AX 우선" '보안 풀스택' 중장기 과제로
미국 앤트로픽의 고위험 인공지능(AI) 모델 '미토스' 등장으로 국내 AI와 보안 업계 긴장감이 커지고 있다. AI가 취약점을 찾고 공격 코드까지 생성하는 수준에 이르면서 금융·공공망·산업 인프라를 겨냥한 동시다발 공격 우려가 생겼기 때문이다.
국내도 미토스만큼 뛰어난 AI 모델을 만들어 대응하면 되지 않냐는 주장이 나오지만, 전문가들은 모델 개발 경쟁에 앞서 보안 체계의 AI 전환이 시급하다고 본다. 공격은 AI가 하고 있지만 방어는 아직도 사람이 하는 곳이 많아서다.
망분리 규제 완화와 제로트러스트(Zero Trust) 도입 등을 비롯한 '보안 풀스택'을 구축하는 게 핵심 과제로 꼽힌다.
■ 고성능 AI가 취약점 찾고 공격까지
미토스는 앤트로픽이 개발한 최신 AI 모델이다. 앤트로픽 내부에서 '너무 위험해 일반에 공개할 수 없다'고 평가할 만큼 지금까지 세상에 등장한 여러 AI보다 높은 성능을 갖춘 것으로 보인다.
AI 미토스의 특징은 사람이 하나씩 살펴보던 시스템상 취약점을 대량으로 찾아내 보완하는 것은 물론 공격까지 할 수 있다는 점이다.
그동안 공격(해킹)을 하기 위해선 목표를 정한 다음 시스템을 분석하고 공격 경로를 짜는 등 상당한 시간이 필요했다. AI가 이 과정을 대신하며 해킹에 들어가는 시간은 크게 줄고 피해는 더욱 확산된다. 고성능 AI가 방어 수단이자 공격 수단으로 쓰일 수 있다는 사실이 확인되면서 기존 보안 체계도 시험대에 올랐다.
박종성 LG CNS AI&최적화컨설팅 리더는 "과거에는 고도로 숙련된 해커만이 수개월을 투자해 파악할 수 있었던 복잡한 시스템의 취약점을 이제는 프론티어 AI가 단 몇 시간 만에 대량으로 스캔하고 공격 코드를 자동 생성할 수 있게 됐다"라며 "해킹의 한계 비용이 0에 가깝게 붕괴한 것"이라고 진단했다.
금융권과 공공 데이터망, 핵심 산업 인프라는 우선 타격 대상이 될 수 있다는 분석도 나온다. 노후 전산 시스템은 안정성 문제로 보안 패치 적용이 쉽지 않다. 금융과 공공망은 공격 성공 시 얻을 수 있는 정보 가치와 사회적 파급력도 크기 때문에 해커들의 1순위 대상이 된다는 의미다.
송현근 라이너 최고정보보호책임자(CISO)는 "AI는 표적을 고를 필요가 없다. 인터넷에 연결된 거의 모든 시스템을 동시에 살펴보고 그중 약한 곳부터 자동으로 들어간다"라며 "타격 지점이 될 것으로 예상되는 곳은 공격은 AI 속도인데, 방어는 여전히 사람 속도인 모든 조직이다"라고 말했다.
이어 "지금까지의 사이버 공격이 은행 한 곳, 병원 한 곳처럼 개별 사고였다면 AI 시대의 공격은 같은 날 같은 시간에 수십 곳이 동시에 당하는 형태가 된다"며 "사고 한 건당 피해보다 사회 전체의 대응 자원이 한꺼번에 고갈되는 상황이 진짜 위협"이라고 설명했다.
사이버 공격의 파급 범위도 과거와는 차원이 다를 것으로 보인다. 스마트공장과 물류센터, 에너지 시설 등 주요 산업 현장은 운영 시스템과 설비 제어망이 IT 인프라와 긴밀하게 연결돼 있다. 따라서 해킹이 발생할 경우 정보 유출은 물론 생산 차질이나 안전사고 등 물리적 피해로 이어질 수 있다는 우려가 나온다.
최근 기업들이 도입을 확대하고 있는 AI 에이전트 역시 새로운 보안 위험 요인으로 지목된다. AI 에이전트는 사용자를 대신해 문서를 분석하고 업무 시스템과 외부 서비스를 연동하는 역할을 수행한다. 보안이 충분히 확보되지 않은 상태에서 활용 범위가 넓어질 경우 해커가 이를 악용해 내부 시스템에 침투하거나 권한을 탈취할 가능성이 있다는 지적이다.
김병훈 이스트시큐리티 CTO는 "AI 에이전트 기반 업무 환경에서 사용자가 인지하지 못하는 사이 공격이 발생할 위험이 커졌다"며 "공격자의 진입 장벽은 낮아지는 반면 방어자의 부담은 더욱 커지고 있다"고 말했다.
■ 한국도 고성능 AI 있어…문제는 보안 거버넌스 부재
미토스 쇼크 이후 한국도 미토스에 필적할 AI 모델을 서둘러 확보해야 한다는 주장이 고개를 들고 있다.
전문가들은 한국의 AI 성능도 미국과 중국에 비해 3~4개월 격차만 있을 뿐 취약한 수준은 아니라고 진단한다.
천승원 업스테이지 NFM센터 총괄은 "한국은 미국, 중국을 제외하고 다수의 프론티어급 모델을 보유한 거의 유일한 국가"라며 "오픈소스 모델 활용이나 파인튜닝에 그치는 수준이 아니라 기반 모델부터 추론 인프라, 응용 솔루션까지 전체 기술 스택을 갖추고 있다는 점에서 경쟁력은 충분히 평가받을 만하다"고 말했다.
김병훈 CTO도 "한국은 반도체부터 IT 인프라, 초거대 AI 모델 개발까지 전 과정을 자체적으로 소화할 수 있는 전 세계에서 몇 안 되는 엔드투엔드(End to End) 균형을 갖춘 AI 선도국가"라고 평가했다.
미국 AI 기업 앤트로픽의 로고 /사진=로이터 뉴스1
프론티어 AI급 모델을 보유했더라도 사이버 안전과는 별개의 문제다. 고성능 모델이 취약점 탐지와 분석에 도움을 줄 순 있으나 실제 피해를 막기 위해선 후속 조치가 무엇보다 절실한 상황이다.
아무리 취약점을 잘 찾아내더라도 이를 실제 보안 강화로 연결하지 못하면 피해를 막기 어렵다는 게 전문가들의 공통된 진단이다.
최병호 고려대 인공지능연구소 교수는 "한국도 이미 프론티어 모델을 보유하고 있으나 문제는 모델 유무가 아니라 미국과의 성능 격차"라고 말했다.
그러면서 "현재 수준에서 가능한 것은 자체 모델과 해외 모델, 오픈소스 모델을 함께 활용하는 멀티모델 접근"이라며 "AI가 문제점을 탐지하고 사람과 협업해 대응할 수 있는 거버넌스 체계를 만들어야 한다"고 강조했다.
송현근 CISO 역시 "프론티어 모델 보유 여부와 사이버 안전은 별개의 문제로 봐야 한다"며 "한국이 프론티어 AI 모델을 가져야 안전해진다는 명제는 매력적이지만, 실제 피해를 줄이는 것은 거대한 모델이 아니라 구체적인 제도"라고 밝혔다.
덧붙여 "한국의 사이버 방어 체계를 AI 시대에 맞게 제도적으로 정비하는 것이 시급하다"라며 "방어자가 공격자의 속도를 따라잡을 수 있도록 패치와 대응을 법적으로 강제하는 체계가 필요하다"고 조언했다.
■ 망분리 완화, 보안 풀스택 과제로
업계는 AI 공격을 방어하기 위해 우선적으로 망분리 규제 완화와 제로트러스트 도입을 꼽는다.
망분리는 업무망과 인터넷망을 분리해 외부 침입을 막는 방식이다. 금융권과 공공기관에서 오래 활용됐으나 AI 공격처럼 빠르게 변하는 위협에는 대응 속도가 떨어질 수 있다. 외부에서 새로 확인된 취약점과 공격 정보를 내부 시스템에 곧바로 반영하기 어려워서다.
제로트러스트는 이같은 한계를 보완하는 방식으로 거론된다. 내부망에 접속한 이용자라도 권한과 접속 행위를 계속 확인해 계정 탈취나 내부 시스템 악용 가능성을 줄이는 접근이다.
박종성 리더는 "미토스는 강력한 접근 통제, 세밀한 네트워크 분할, 자동화된 패치 체계 및 제로 트러스트 아키텍처가 완비된 조직을 대상으로는 자율적 침투를 성공시키지 못했다"라며 "다가올 AI 공격 시대에 대응하는 유일한 해법은 모든 접근을 의심하고 지속적으로 검증하는 제로 트러스트 거버넌스로의 체질 개선뿐"이라고 언급했다.
김병훈 CTO 또한 "망분리 규제 완화와 제로트러스트 기반의 국가 사이버보안 프레임워크가 적극적으로 도입돼야 할 시점"이라며 "공공 영역에서의 선제적 도입이 더욱 활발해져야 한다"고 말했다.
전문가들은 AI가 찾아낸 취약점을 얼마나 빨리 개선하느냐가 관건이라고 본다. AI 공격이 분 단위로 자동화되면 기업 자율 판단에만 맡긴 대응으로는 속도를 맞추기 어려워 보안 패치나 사고 보고 기준 등을 제도화해야 한다는 것이다.
송현근 CISO는 "새로운 보안 약점이 공개됐을 때 며칠 안에 반드시 조치해야 한다는 강제 기준, 중요 인프라에 대한 의무 보안 점검 주기, 사고 발생 시 일정 시간 안에 신고하도록 하는 의무가 실제 피해를 줄이는 방법"이라고 말했다.
중장기적으로는 보안 풀스택 구축이 과제로 꼽힌다. AI가 취약점을 탐지하고 사람과 협업해 대응하려면 모델과 보안 소프트웨어뿐 아니라 하드웨어, 클라우드, 망분리 구조, GPU와 NPU 같은 연산 인프라까지 함께 설계해야 한다는 설명이다.
최병호 교수는 "보안 대응이 원활하게 돌아가려면 풀스택이 가동돼야 한다"며 "하드웨어 측면의 보안 기술, 망분리와 클라우드 운영, 물리적 구조, GPU와 NPU까지 관련돼 있다. 해외 기술을 쓰면서도 자체적으로 접근할 수 있는 연구개발이 계속돼야 한다"고 강조했다.
천승원 총괄은 "대규모 학습을 위한 최신 컴퓨팅 자원, 고품질 학습 데이터 활용을 위한 제도적 지원, 글로벌 최상위 인재 영입을 위한 환경 조성까지 여러 조건이 동시에 갖춰져야 한다"라며 "정부가 앞으로도 산업계, 연구계와 긴밀히 소통하면서 정책이 현장의 기술 속도를 따라갈 수 있도록 논의의 속도와 깊이를 지속해 나가기를 기대한다"고 말했다.
