‘미토스 쇼크’에 바빠진 정부…‘AI 보안주권’ 대책 내놓는다

배경훈 부총리 겸 과학기술정보통신부 장관이 지난 8일 서울 종로구 광화문교보빌딩 국가과학기술자문회의 대회의실에서 열린 ‘빅테크 AI기업 사이버보안 프로젝트 관련 전문가 간담회’ 에서 발언하고 있다. 과기정통부 제공

자율형 인공지능(AI)의 사이버 공격 가능성을 둘러싼 ‘미토스 쇼크’에 정부가 본격적인 대응책 마련에 나섰다. 이번 주 예정된 앤스로픽 글로벌 정책 총괄 면담을 앞두고 산학연 전문가들의 의견을 수렴하는 한편, 이르면 이달 말 중장기 대응 방안을 공개한다는 방침이다.

10일 관련 업계에 따르면 과학기술정보통신부는 지난 8일 독자파운데이션 모델 개발 기업과 한국정보보호학회, 한국정보보호산업협회 등 산학연 전문가 간담회를 열고 AI 사이버 보안 관련 대응 방안을 논의했다.

류제명 과기정통부 제2차관의 마이클 셀리토 앤스로픽 글로벌 정책 총괄 면담을 앞두고 민관의 의견을 모은 것으로 풀이된다.

이날 AI를 활용한 실제 취약점 점검 사례도 공유됐다. 한국인터넷진흥원(KISA)이 국내 기업을 대상으로 앤스로픽의 최신 AI 모델을 활용해 모의해킹을 진행한 결과 10여분 만에 7건의 취약점을 발견했다. 미토스는 일반 공개된 오푸스 4.7보다 훨씬 높은 성능을 갖춘 것으로 알려졌다.

최우혁 과기정통부 정보보호네트워크정책실장은 간담회 이후 “국내 기업 1곳과 협의해 앤스로픽의 ‘클로드 오푸스 4.7’ 모델로 다양한 시나리오 공격을 실시한 결과 7건의 취약점이 발견됐다”고 설명했다.

정부는 단기와 중장기 대책을 마련할 계획이다. 단기적으로는 영국 국가사이버보안센터(NCSC)의 ‘얼리워닝’ 서비스나 보안 고위험 기업에 대한 보안 패치 의무 적용제 등이 거론된다. 중장기적으로는 사이버 보안에 특화된 독자 AI 모델을 개발한다는 방침이다.

최 실장은 “독자파운데이션 모델을 기반으로 보안 특화 모델을 개발하거나 독파모의 보안 기능을 고도화하는 등 다양한 가능성이 열려 있다”고 말했다.

특히 AI 보안주권을 확보하는 것이 핵심이 될 전망이다. 글로벌 빅테크가 주도하는 보안 동맹에서 한국이 정보 비대칭에 놓일 수 있다는 우려에서다.

앤스로픽은 미토스의 위험성을 관리하기 위해 ‘프로젝트 글래스윙’을 출범시켰고, 오픈AI도 별도의 보안 동맹 ‘TAC’를 운영 중이다. 현재 정부가 국내 기업이나 기관의 참여를 논의하고 있는 것으로 알려졌지만 아직까지 실제 사례는 없는 상황이다.

이에 셀리토 총괄과의 면담은 한국의 글래스윙 참여 가능성을 타진하는 자리가 될 것이란 시각이 지배적이다. 다만 글래스윙 참여가 무산되거나 지연될 경우 중장기 대응 방안을 논의하는 과정에서 플랜B를 종합 검토할 계획이다.

배경훈 부총리 겸 과기정통부 장관은 “우리 사회 정보보호 패러다임을 AI 기반 보안 체계로 전환하는 것을 더 이상 늦추기 어려운 상황”이라며 “국내 AI 보안 특화 모델 개발과 함께 사회 전반에 제로 트러스트 철학을 확산하고 양자 보안 등 대응 방안을 조속히 마련하겠다”고 말했다.

김남석 기자 kns@dt.co.kr