미토스 쇼크에 앤트로픽 만난 정부…이달 말 ‘AI 해킹 대책’ 발표

11일 오전 서울 모처, 류제명 차관-앤트로픽 회동
글래스윙 120곳 파트너 확대…政, 참여 타진
이르면 이달 말 대책 발표…‘AI 사전 검증’ 담길까 촉각

앤트로픽 로고. [로이터]

[헤럴드경제=고재우 기자] 앤트로픽의 차세대 인공지능(AI) ‘미토스’가 촉발한 사이버 위협을 계기로, 정부가 AI 해킹 대책 마련에 속도를 내고 있다.

정부가 앤트로픽과 회동을 갖고 보안 협력체 ‘프로젝트 글래스윙(글래스윙)’에 참여하기 위한 논의를 본격화했다. 배경훈 과학기술정보통신부(과기정통부) 장관 겸 부총리는 보안 업계 기업을 연달아 만난다. 이를 통해 이달 말에는 AI 발 해킹 위협에 대한 대책을 내놓을 계획이다.

앤트로픽이 개발한 AI 모델 ‘미토스’가 보안 시스템을 공격할 수 있다는 사실이 알려지면서 사이버보안에 초비상이 걸렸지만, 국내 보안 투자는 여전히 미흡하다는 우려의 목소리가 나오고 있다. [로이터]

11일 업계에 따르면 류제명 과학기술정보통신부(과기정통부) 2차관은 이날 오전 서울 모처에서 마이클 셀리토 앤트로픽 글로벌 정책 총괄과 회동했다. 여기서 류 2차관은 글래스윙 참여를 비롯해 AI 발 사이버 위협에 대해 폭넓게 논의한 것으로 알려졌다.

지난달 앤트로픽이 개발한 AI 모델 ‘미토스’가 보안 취약점을 찾아내고, 시스템 공격까지 수행할 수 있다는 사실이 알려지면서 전 세계에 충격을 줬다. 대책 마련이 시급해지면서 정부는 미토스 접근 권한 확보를 위해 글래스윙 참여를 지속적으로 타진해 왔다.

글래스윙은 앤트로픽이 일부 기업·기관들과 구성한 보안 협력체다. AI 기반 사이버 위협, 방어 기술 등을 공동 연구 및 검증하기 위해 마련됐다. 현재 구글, 마이크로소프트(MS), 애플, 엔비디아 등 글로벌 빅테크 기업을 비롯해 영국 과학혁신기술부 산하 AI 안보연구소 등 52곳이 참여하고 있다.

앞서 앤트로픽은 글래스윙에 약 70개 기업 및 기관을 참여시켜, 약 120개 파트너를 확보하겠다고 밝혔다. 이에 과기정통부도 AI 안전연구소, 한국인터넷진흥원(KISA)를 통해 접촉에 나서는 등 글래스윙 참여를 위해 범정부적 역량을 집중하고 있다.

류제명 과학기술정보통신부 2차관이 28일 국회에서 열린 과학기술정보방송통신위원회 전체회의에서 의원 질의에 답하고 있다. <연합뉴스>

실제로 류 차관은 지난달 국회에 출석해 “글래스윙 참여 여부를 타진하고 있다”고 밝힌 바 있다. 이날 류 2차관과 셀리토 총괄 간 회동도 이의 일환으로 풀이된다.

더 나아가 이르면 이달 말 과기정통부는 ‘AI 기반 사이버 위협에 대한 대응책’을 발표한다.

이를 위해 배 부총리는 지난 8일 SK텔레콤, 업스테이지, 모티프테크놀로지스 등 독자파운데이션모델 개발 기업 및 주요 기업 최고정보보호책임자(CISO)를 만나 현장 의견 수렴을 거쳤다. 가까운 시일 내에 미토스 등 고성능 AI 사이버 위협과 관련해 보안 기업과 간담회를 열 예정이다.

인공지능(AI) 공개 전, 정부가 사전 심사하는 방안이 미국에서 논의되면서, 국내에서도 찬반 논란이 불붙기 시작했다. [123rf]

AI 보안 위협이 확산하자 정책적으로 이를 보완할 수 있는 방안 마련이 시급해진 데 따른 것이다. 실제 국내 뿐 아니라 이미 전 세계적으로 AI 보안 위협을 최소화할 수 있는 정책 마련이 분주해지고 있다. 대표적인 곳이 미국이다.

미국은 고성능 AI 모델을 공개하기 전 정부가 이를 사전에 검토하는, 이른바 ‘AI 사전 검증제’ 도입을 논의 중이다.

‘사전 검증’은 정부가 AI 모델 출시 전 안전 기준을 충족하는지 여부를 확인하는 식이 될 것으로 알려졌다. 이는 영국과 유사한 방식이다. 미국 정부가 취약점을 먼저 검토하되, 출시 자체를 제한하지는 않는 방식이 될 것이라는 관측이 나온다.

이에 따라 국내에서도 ‘AI 사전 검증’ 방식이 AI 보안 대책에 포함될지 여부가 관심사다.

배 부총리는 최근 SNS에서 “단기적으로 대규모 취약점 대응 및 글래스윙 프로젝트 참여 등과 함께, 중장기적으로 AI로 AI를 방어하는 체계 구축, 제러트러스트 기반 보안 전환 등을 속도감 있게 추진할 것”이라고 밝혔다.