[시론] AI 안전 관련 국제 규범, 한국 주도로 만들자

김석철 전 한국원자력안전기술원(KINS) 원장

정부가 한국형 독자 인공지능(AI) 파운데이션 모델, 즉 ‘소버린 AI’ 개발을 본격화했다. 최근 과학기술정보통신부가 프로젝트 공모에 참여한 15개 팀 중에 5개 팀을 ‘국가 대표팀’으로 선정했으니 속도가 붙은 모양새다. 이들 기업이 개발을 마치면 국민 모두에게 오픈소스로 공개할 예정이다. 이를 통해 AI 주권 확보를 넘어 세계 3대 AI 강국에 진입한다는 청사진이다.

그러나 AI 주권은 기술만 개발된다고 해결되는 것이 아니다. 갈수록 파괴적 영향력을 발휘하는 AI는 필연적으로 국제질서 재편을 초래하고, 그에 맞춘 규범에 맞아야 하기 때문이다. 뛰어난 기술이 개발되더라도 규범의 틀을 벗어나면 효용가치가 없게 된다.

■

「 선진국들 국익 중심 규제 추진 중
자칫 미·중·EU 규제 수입할 우려
국제규범·가이드라인 선도해야
」

김지윤 기자

AI 규범은 기술 개발의 그늘에 가려있지만, 살상은 기술 패권 향방의 가늠자나 다름없다. 70여 년 전 개발된 핵이 여전히 핵확산금지조약(NPT) 체제라는 규범 아래에서 움직이는 것과 마찬가지다. 미국 등 몇몇 강대국이 오늘날까지 원자력 패권을 장악한 이유다.

핵이 문명의 이기이자 인류의 위협인 것처럼 AI도 양면성이 있다. AI 무기가 전장의 양상을 바꾸고, 대규모 여론조작에 악용되고 있다. 몇 줄 코드만으로 생화학 무기 설계까지도 가능하다. 그러나 위험이 현실화했는데도 이를 통제할 AI 관련 국제 레짐은 강대국들의 이해관계로 제대로 마련되지 못한 채 교착 상태다.

정부에 AI 규범의 중요성을 지적하는 이유는 지금의 AI 레짐 교착 상태가 거꾸로 우리에게 기회가 될 수 있기 때문이다. 기술개발과 동시에 안전·윤리·비확산·수출통제를 내장한 AI 국제 규범을 선점한다면 AI에 관한 한 대한민국이 ‘규범 제정자(Rule setter)’가 될 수 있다는 것이다.

AI 선진국이라 할 수 있는 미국과 유럽연합(EU)은 아직 자국 이익만을 위한 규범화에 그치고 있다. 특히 EU는 ‘AI 특별법’을 통해 위험도 기반, 투명성, 인간 통제, 데이터 거버넌스를 법제화했다. 무기로 전용될 가능성이 큰 AI 소프트웨어와 특수반도체를 전략물자로 지정해 수출 통제기반을 갖췄다. 위험은 사후가 아닌 설계단계부터 관리해야 한다. 서두르지 않으면 미국의 수출통제, EU의 고위험 인증, 중국의 데이터 국경 사이에서 규제 수입국으로 전락할 수밖에 없다.

정부도 이제 AI와 관련해서는 기술개발과 병행한 전략적 보완을 고려할 때다. 한국형 AI 알고리즘이나 반도체 개발 못지않게 윤리·인문·안보를 설계단계부터 녹여 넣는 다학제적 접근이 필요하다. 안전과 윤리의 내재화, 군사전용 차단과 전략물자 관리, 국제 비확산 레짐 주도를 포괄하는 법제화는 물론이고 이를 담당할 규제 전문기관의 설립도 고려해 봄 직하다.

AI 선도 국가들과 AI 파트너십 국제 규범 및 공동 가이드라인을 주도한다면 금상첨화다. AI 안전과 안보, 무기화 우려가 있는 AI 기술 비확산 등에 대한 가칭 ‘서울 AI 안전선언’과 함께 AI 위험관리를 관장하는 국제기구를 설립하고 그 본부를 한국에 유치한다면 어떨까. 이것이 실현되면 한국은 규범 공급국이자 ‘K-AI Safe’라는 신뢰 라벨 제공국으로 도약할 수도 있을 것이다.

규범 리더십은 비용이 아니라 투자이자 국가안보를 위한 보험이다. 연구개발(R&D) 단계에서부터 위험관리를 설계에 녹여낸 한국형 프레임 워크는 ‘신뢰할 수 있는 AI’라는 글로벌 희소가치를 창출하게 될 것이다. 이는 탄소중립·첨단 바이오처럼 규제가 곧 시장 표준이 되는 시대정신과 부합한다.

세계는 이미 ‘안전한 AI가 아니면 AI가 아니다’는 방향으로 수렴 중이다. NPT 체제의 공식 핵무기 보유국(P5)이 핵 연료 주기를 감시하며 국제 질서를 쥐고 있듯이 AI도 윤리·안전·투명성을 설계하고 선점한 국가가 패권을 차지할 수밖에 없다. 한국의 미래 경쟁력도 규범을 선점하느냐, 남이 그은 선에 맞춰 뒤따라가느냐에 따라 결정될 것이다.

상상력은 기술을 진보시키지만, 규범은 그 기술을 사람·시장과 연결한다. ‘위험을 관리하는 혁신 강국’이라는 새 좌표에 한국의 이름을 새길 때다. 국제사회가 AI 통제의 빈틈을 걱정하는 지금이 행동해야 할 타이밍이다.

※ 외부 필진 기고는 본지의 편집 방향과 다를 수 있습니다.

김석철 전 한국원자력안전기술원(KINS) 원장