AI의 안보·민주주의 위협 차단할 때[포럼]

이경호 고려대 정보보호대학원 교수

조 바이든 미국 대통령이 지난달 30일 ‘안전하고 신뢰할 수 있는 인공지능(AI) 개발 및 사용’ 행정명령에 서명했다. AI가 핵무기나 생화학무기 같은 대량파괴무기(WMD) 제조에 활용되는 것을 막기 위해 안전성 평가를 의무화한 것으로, AI에 대한 미 정부의 첫 번째 규제 조치다. 이제 미국 기업들은 회사가 개발하는 AI 모델이 국가안보와 경제안보, 공중보건 및 안전에 위험을 초래할 경우 연방정부에 알려야만 한다.

기술이 국가안보에 활용된 사례는 많으며 그 결과로 오늘날 강대국의 패권이 형성, 유지되고 있다. 오늘의 서방세계를 형성한 역사적 사건 뒤에는 당대 최고의 기술이 있었다. 이 첨단 기술의 개발은 국가가 직접 담당했으며, 미국의 국가안보국(NSA)과 중앙정보국(CIA)은 그 중심에 있었고 코로나 위성과 정찰기 U2를 직접 개발해 지구를 감시했다. 1990년대에 들어서면서 미 연방정부가 보유한 기술이 민간의 기술 혁신에 뒤처지게 되자 CIA는 투자펀드 ‘인큐텔’을 조성해 정부가 상업용 기술을 활용할 수 있는 통로를 만들었다.

민간의 기술 발전은 최근 20년간 인터넷과 클라우드, 빅데이터 환경에서 폭발적인 혁신을 거듭했고, AI 분야는 암흑기를 지나 ‘GPT-5’의 출현을 앞두고 있다. 현재 AI 기술의 개발은 미국·중국이 가장 큰 비중으로 선두이며, 국가안보 차원에서 상대국의 암호를 해독하거나 사이버 해킹·감시·공격 등에 활용되는 데 이를 운영하기 위해 국가 차원에서 해커들을 양성·유지하고 있다.

국가 안보를 위한 기술적 우위는 영원하지 않다. 미국은 에드워드 J 스노든의 공개로 인해 수많은 정보 및 사이버 역량과 해킹 자산이 노출돼 오히려 공격을 받는 등 더는 우위를 점할 수 없는 상황이 됐다. 이런 배경에서 우방과의 긴밀한 사이버 위협 정보의 공유가 필요했고, 이는 사이버 분야의 양자 간 고위급 운영 그룹을 구성하게 했다.

이번 행정명령의 골자는, AI가 핵·생화학 무기 등 WMD 제작에 활용되는 것을 차단하고, 딥페이크 같은 기술이 선거 방해에 이용돼 민주주의의 근간을 흔드는 행위를 막는 것 등이다. 간단히 말해, AI 기술이 적국이나 테러 단체의 손에 들어가 미국 국가안보와 사회 혼란에 치명적인 위협을 가하지 못하도록 차단 장치를 마련하는 것이다.

즉, 민간 AI 기술 생태계가 미국에 위협이 되지 않도록 관리해야 하며 이를 위해 주요 AI 기업들에 안전 조치를 하겠다는 약속을 받아냈고, 정부 차원에서 AI 테스트에 대한 엄격한 표준을 설정하고 이 표준을 핵심 인프라에 적용한다. 민간과 연방정부를 막론하고 전방위적인 AI 기술 통제를 시작한 것이다. 이는 AI 기술이 국가 역량의 핵심임을 인지한 것이며 그 주도권을 미국 중심으로 유지하고자 하는 것이다. 또한, 기술 우위가 정부에 있지 않다는 점을 솔직하게 인정하고 국가 정책 방향에 맞도록 민간시장을 가이드 하겠다는 것이다.

우리 정부의 발걸음을 뒤돌아봐야 한다. 첨단 기술이 국가를 살리고 국가안보와 경제에서 절대우위를 만들어내고 복잡한 외교 무대에서 역할을 한다. 이번 미국 행정명령의 의미를 되새겨 그동안 제시된 과학기술 정책을 재점검하고 AI의 범국가적 활용 전략을 리스크 측면에서 보완해야 한다.

이경호 고려대 정보보호대학원 교수