“오웰 ‘1984′는 AI로만 가능… 독재자가 칩 못 갖게 해야”

AI 시대 독재의 모습, 중국에 있다

23일 서울 신라호텔에서 열린 아시안리더십콘퍼런스 '기술,국가안보,미중 경쟁 시대 지정학의 미래와 그 너머' 세션에서 제이슨 매서니 랜드 연구소 소장과 이종호 과학기술정보통신부 장관이 토론하고 있다./ 오종찬 기자

제이슨 매서니 미 랜드연구소 회장 겸 최고경영자(CEO)는 미국 첨단 기술 관련 정책 분야에서 최근 몇 년 새 가장 유명해진 ‘스타’다. 2017년 외교 전문지 ‘포린폴리시’는 미 정보고등연구기획국(IARPA) 국장을 지내고 있던 그를 새로운 생각으로 세상을 바꾸는 세계 50대 신사상가(Global Rethinker) 중 한 명으로 꼽았다. 미국의 모든 정보기관을 총괄하는 국가정보국장실(DNI)은 당시 그를 “제임스 본드 영화 속 ‘Q’와 같은 ‘스파이의 과학자’”라고 불렀다. 바이든 행정부 출범 후 백악관에서 첨단 기술 관련 안보 정책을 이끌었던 그를 23일 본지 주최 아시안리더십콘퍼런스(ALC)가 열린 신라호텔에서 만나 인터뷰했다. 그는 “AI 시대 독재를 막기 위해 민주주의 국가들은 중국, 러시아, 북한 같은 나라들이 최첨단 반도체에 접근하는 것을 차단해야 한다”고 했다.

-많은 전문가가 인공지능(AI)의 위험성을 경고하고 있는데 어떻게 보나.

“나의 가장 큰 두려움은 독재자들이 인공지능에 기반한 자동 감시 시스템을 통해 개개인을 영원히 감시할 수 있게 되는 것이다. (1949년 출판된 디스토피아 소설) 조지 오웰의 ‘1984′는 AI를 통해서만 가능하다. AI를 이용한 ‘유비쿼터스(ubiquitous·언제 어디서나) 감시’는 매우 위험한 기술이기 때문에 독재자들이 이 기술을 선도하지 않도록 민주주의 국가들이 힘을 합쳐야만 한다.”

-북한이 최근 중국의 감시 기술을 수입하고 있다고 들었는데 관련이 있나.

“물론이다. 중국 신장 지역에는 미국 엔비디아와 인텔 반도체로 건설된 데이터센터가 있다. 이곳은 세계에서 가장 심한 감시가 이뤄지는 장소로, 개개인의 행동이 실시간으로 탐지되고 있다. 당신이 (신장 내 어딘가를) 걸어가면 우선 안면 인식을 해서 프레임을 따라 추적한다. 당신이 어떤 물체를 집어들면 그것이 무엇인지, 누군가에게 전달되는지, 그 물체로 무엇을 하는지 분석한다. 이런 종류의 감시를 하면 모든 사람이 누구와 이야기하는지 그 네트워크를 지도화해서 사람들 간의 관계에 대한 사회적 그래프를 그릴 수 있다. 이것이 바로 AI 시대 독재의 모습이다. 이런 데이터센터가 건설됐는데도 미국 회사들은 (그 사실을 모르고) 계속 반도체를 팔았다. 그렇기 때문에 민주주의 국가들이 이런 기술의 공유에 주의해야 한다.”

-AI 기술이 자유민주주의에 위협이 된다는 뜻인가.

“랜드연구소 내에서 그에 관한 토론을 한 적 있다. 연구자들은 대체로 AI가 독재자에게 비대칭적으로 유리하다고 생각한다. AI는 개개인에 대한 자동 감시와 정보의 통제를 매우 쉽게 해준다. (AI를 이용하면) 대규모 선전을 매우 빠르게 할 수 있고, 정권에 대해 이뤄지고 있는 대화를 모니터링해서 정권을 위협할 만한 내러티브가 있다면 즉각 대처할 수 있다. 정보 환경을 완전히 통제할 수 있다.”

-이를 어떻게 막아야 하나.

“민주주의의 장점이라면 AI를 더 빠르게, 통제 가능한 방식으로 개발할 수 있다는 것이다. 우선 민주주의 국가들은 세계적 인재를 끌어모을 수 있다. 중국의 우수한 컴퓨터 과학자 대부분은 민주주의 국가로 이민 가고 싶어 한다. 만약 우리가 강력한 이민 시스템을 갖춘다면 독재국가들의 인재 유출을 유발할 수 있다. 또 하나의 강점은 우리가 반도체 공급망에 대한 레버리지를 갖고 있다는 점이다. (반도체와 생산 장비 수출 통제에 협조해 준) 한국, 대만, 네덜란드, 일본 등 덕분에 우리는 중요한 통제 수단을 갖게 됐다.”

-글로벌 AI 거버넌스에 대한 논의도 활발한데 AI를 어떻게 통제해야 한다고 보나.

“우선 AI 시스템을 출시하기 전에 충분한 시험을 해야 한다. 이것이 상식 같지만 실제로는 AI 시스템이 어떻게 재앙적인 방법으로 잘못 사용될 수 있는지 충분히 평가하지 않는 회사들이 있다. 기업들이 다른 기술 제품을 출시하기 전에 충분히 평가하듯이 AI도 그렇게 해야 한다. 또 문제가 발생하면 보고가 이뤄져야 한다. 항공 사고나 약물 부작용에 대한 보고가 이뤄지듯 AI 시스템의 실패 사례에 대한 데이터베이스도 구축돼야 한다.”

-국가가 해야 할 일은 어떤 것이 있나.

“미국의 동맹국들 간에 최첨단 반도체 수출 통제에 대한 합의가 있어야 한다. 이것이 가장 강력한 AI 시스템의 목줄을 쥐는 길이기 때문이다. 중국, 러시아, 북한, 이란 등이 아주 강력한 자동 무기나 사이버 무기를 개발할 것이 우려된다면 이를 막는 제일 좋은 방법은 최첨단 반도체에 대한 접근을 차단하는 것이다.”

-이번에 처음 한국을 방문했는데 어떤 기대를 갖고 있나.

“(랜드가) 지금도 한국 정책 사안을 상당히 다루고 있지만, 한·미 동맹이 너무나도 중요하기 때문에 한국 관련 업무를 더 늘리고 싶다. 지난달 (한·미) 정책 커뮤니티를 잘 아는 오미연 박사(전 존스홉킨스대 국제대학원 한국학 소장)를 랜드의 새 한국 정책 석좌로 임명했다. 여기서 더 많은 일을 하게 되기를 고대하고 있다.”

☞랜드연구소·제이슨 매서니

랜드연구소(RAND Corporation): 미국 정부의 정책 결정에 관련된 연구를 주로 하는 비영리 기관이다. 제2차 세계대전 직후인 1945년 10월 미군이 미래 무기 개발의 장기 계획을 세우기 위해 시작한 ‘프로젝트 랜드’가 그 시초다. 인터넷 개발, 미국 핵 전략 수립 등에 깊숙이 관여했고 현재도 연간 2000건 이상의 연구를 하고 있다.

제이슨 매서니: 2022년 7월 랜드연구소 회장 겸 최고경영자(CEO)로 취임했다. 이에 앞서 백악관 국가안보회의(NSC) 기술·국가안보조정관, 백악관 과학기술정책실 부국장으로 미국의 첨단 기술 안보 정책을 이끌었다. 미 정보 당국의 연구 지원 기관인 국가정보국장실 산하 정보고등연구기획국(IARPA) 국장, 미 인공지능국가안보위원회 위원 등도 역임했다.