“의료·모빌리티부터 국가안보까지”…AI 대전환 시대 산업계 덮친 ‘보안 경보’

인공지능(AI)이 전 산업의 워크플로우를 혁신하고 있지만, 역으로 AI 스스로 해킹 시나리오를 설계하는 등 전례 없는 사이버 안보 위협도 함께 커지고 있다.

특히 AI 기술의 적용 범위가 의료, 모빌리티, 국방 등 일상과 국가 안보의 최전선으로 확대되는 ‘AI 대전환’ 시대가 도래하며 산업을 가리지 않고 보안의 중요성이 확대되고 있다.

16일 서울 삼성동 코엑스에서 열린 ‘정보통신망 정보보호 컨퍼런스’(NetSec-KR 2026)에서는 ‘AI 대전환’ 시대에 맞춘 보안 패러다임의 전환이 논의됐다.

한국정보보호학회가 주관하고 한국인터넷진흥원(KISA)이 주최한 이번 행사는 ‘흔들림 없는 보안 기초 위에 구현하는 AI 대전환’을 주제로 업계와 학계, 정부기관의 보안 전문가들이 모였다.

이번 컨퍼런스에서는 특정 IT 분야에 국한되지 않는 ‘AI 보안’의 중요성이 강조됐다. 거대언어모델(LLM) 자체의 보안과 안전성뿐 아니라 공급망, 클라우드, 안면인식, 딥페이크, 의료, 모빌리티 및 피지컬 AI, 이동통신 등 거의 모든 산업과 기술 분야가 망라됐다.

이는 AI 혁신이 일어나는 어떤 산업군이든 보안이라는 기초 체력이 뒷받침되지 않으면, 언제든 치명적인 시스템 붕괴나 대규모 정보 유출로 이어질 수 있다는 강력한 위기감이 반영된 것이다.

이상중 KISA 원장은 “단순한 사물인터넷을 넘어 피지컬 AI가 모든 패러다임을 재편하는 대전환의 시대는 우리에게 과거와 차원이 다른 보안 위협을 가져왔다”며 “이제는 단편적인 대응을 넘어 국민이 안심할 수 있는 디지털 및 물리적 안전망의 기반부터 견고히 다져야 한다”고 강조했다.

축사에 나선 류제명 과학기술정보통신부 제2차관도 현재를 에이전틱 AI가 주도하는 거대한 전환점으로 진단하며 고도화된 사이버 위협에 대한 위험성을 경고했다.

류 차관은 “미토스 등의 등장으로 공격자 개입 없이도 AI 스스로 시스템 취약점을 찾아내 해킹 시나리오를 설계하는 ‘자율형 사이버 공격’으로 지능적 진화를 가속하고 있다”며 “AI라는 화려한 건축물을 쌓아 올리는 것만큼 중요한 것은 그 하중을 견뎌낼 수 있는 견고한 보안의 기초를 다지는 일”이라고 말했다.

이번 행사의 첫 번째 주제발표에 나선 김명우 아마존웹서비스(AWS) 코리아 부사장은 ‘견고한 보안 기반 위의 에이전틱 AI’를 주제로 엔터프라이즈 환경에서 AI를 안전하게 도입하기 위한 실질적인 해법을 제시했다.

김 부사장은 “통제권을 쥔 자율형 에이전트 시스템에 대한 인간의 불안감을 해소하려면 AI에 대한 강력한 통제와 신뢰할 수 있는 보안 환경 구축이 필수”라며 “아마존 베드락과 에이전트 코어는 실행 전 모든 도구 호출을 검사해 정의된 정책을 준수하도록 보장한다”고 설명했다.

기업들의 가장 큰 우려인 데이터 유출과 환각 현상에 대한 강력한 방어막도 강조했다. 아마존 가드레일 기능으로 민감한 개인정보 유출을 원천 차단하고, 수학적 모델의 추론 검사를 통해 99% 이상의 정확성을 보장하는 책임감 있는 AI를 구현하고 있다고 밝혔다.

류제명 과학기술정보통신부 제2차관이 16일 서울 삼성동 코엑스에서 열린 ‘제32회 정보통신망 정보보호 컨퍼런스’에서 축사를 하고 있다. 한국정보보호학회 제공

김남석 기자 kns@dt.co.kr