보안 위협 된 인공지능…정부, AI발 사이버 리스크 차단 나선다

KISA 'AI 보안 위협 분석·대응방안 정책 연구' 발주
국정원, 해외 주요 보안 기관과 'AI 보안 방안' 발표

(서울=뉴스1) 김민재 기자 = 인공지능(AI) 시대를 맞아 악성코드 제작이나 은폐 등 보안 위협이 증가하자 정부가 위험을 사전에 차단하고자 정책 자료를 수집하고 행동 지침을 공유하는 등 대응에 나섰다.

16일 조달청 나라장터에 따르면 한국인터넷진흥원(KISA)은 이달 초 'AI 보안 위협 분석 및 대응 방안 정책 연구' 용역을 발주했다.

KISA는 제안서를 통해 AI 보안 등 이슈 및 위협 분석, AI 보안 정책 연구, 글로벌 AI 보안 동향 조사 및 분석, AI 보안 리포트 제작 등을 요구했다.

특히 유럽연합(EU)과 일본, 미국, 영국 등 선진국의 AI 보안 정책과 기술을 분석해 정책 방향을 도출하라고 주문했다.

국내외 주요 AI 보안 기관 및 기업에서 발간한 연구 보고서 등을 조사해 'AI 보안 리포트'를 발간하라고도 명시했다.

KISA 측은 "AI 기술이 확산하며 최신 보안 위협이 증가하고 있다"며 "국가 차원에서 AI 보안 정책을 조사하고 분석해 대응 전략을 선제적으로 마련하고자 한다"고 설명했다.

'AI 보안 리스크'는 전 세계적인 화두다. 주요 선진국과 경제 기구 역시 연일 경고의 목소리를 내고 있다.

세계경제포럼(WEF)은 '2026년 글로벌 사이버 보안 전망' 보고서에서 "설문 응답자의 87%가 가장 빠르게 증가하는 사이버 위험으로 'AI 관련 취약성'을 꼽았다"고 했다.

이어 "AI가 사이버 공격 세력과 방어 세력 양측의 역량을 모두 변화시키며 새로운 '사이버 군비 경쟁'을 촉진하고 있다"고 분석했다.

영국 국립사이버보안센터(NCSC)는 "AI가 악성코드 개발 등 사이버 공격 작전의 기술적 진입 장벽을 낮추고 있다"고 전했다.

그러면서 "단기간 내에 사이버 공격의 빈도와 파급력이 늘어날 확률이 매우 높다"고 전망했다.

정부도 이런 동향에 발맞춰 AI 보안 가이드라인을 마련했다.

국가정보원은 지난 5일 호주 신호정보부(ASD), 미국 국가안보국(NSA) 등 주요 7개국 사이버안보 기관과 'AI 공급망 위험·완화방안'을 공동 발표했다.

AI 공급망 위험·완화방안에선 AI 공급망 구조가 복잡해 '백도어' 은닉 가능성 등이 있다며 관련 보안 대책 마련을 주문했다.

AI 공급망은 하나의 AI 시스템을 만들고 사용자에게 서비스하기까지 거치는 모든 과정과 필요한 구성 요소들의 연결고리를 뜻한다.

이번 권고문은 AI를 배포한 뒤 보안 대책을 마련하는 것이 아니라, 설계 단계부터 보안을 내재화해야 한다는 내용을 골자로 한다.

보안 당국은 신뢰할 수 있는 데이터를 사용해 위험 요소를 완화하라고 권고했다. 품질이 낮고 편향된 AI 데이터는 모델의 판단 오류를 초래할 수 있기 때문이다.

또한 머신 러닝 모델에서 악성 코드 은닉과 백도어 삽입 등 보안 사고가 발생할 수 있기에, 안전한 파일 형식 및 투명한 모델을 사용하라고 권장했다.

minjae@news1.kr

<용어설명>

■ 백도어
컴퓨터 시스템의 보안 기능을 우회해 비밀리에 접근할 수 있도록 만들어진 해킹 경로. 정상적 인증 정차를 거치지 않아 '뒷문'에 비유한다. 원격 제어와 데이터 탈취 등을 목적으로 악용하는 보안 취약점이다.

IT/과학