“AI, 통제불능 괴물…” 규제기구 만드는 유엔

구테흐스 사무총장, 공식 설립 제안…국제사회의 이행 촉구
9월까지 ‘AI자문위’ 구성해 계획 구체화…행동강령도 마련

“인공지능(AI)은 통제 불가능한 ‘괴물’이 될 수 있다.”

안토니우 구테흐스 유엔 사무총장(사진)이 AI 인류위협설을 언급하며 AI 규제를 위한 국제 전문기구 수립을 제안했다. AI 기구의 모델로는 국제원자력기구(IAEA)를 제시했다. IAEA가 전문 지식을 토대로 인류 존립에 위협이 될 수 있는 원자력 사용을 규제하는 것처럼 AI 기구가 과학을 기반으로 세계 공통의 AI 규약을 만들고 관련 산업을 규제한다는 구상이다.

로이터·AP통신 등에 따르면, 구테흐스 사무총장은 12일(현지시간) 기자회견에서 “디지털플랫폼에서 확산되는 거짓정보와 혐오, 통제 불가능한 괴물이 될 수 있는 AI의 위협이 세계 공동의 조치를 필요로 하고 있다”면서 AI 국제기구 구상을 밝혔다.

구테흐스 총장은 며칠 내에 과학자 고문들을 임명하고 오는 9월에는 AI 자문위원회를 만들어 계획을 구체화해가기로 했다. 또 내년 9월 열리는 유엔 미래정상회의 전에 디지털플랫폼에서의 허위정보를 막기 위한 유엔 행동강령을 마련해 발표할 계획이라고 덧붙였다.

구테흐스 총장은 AI 기구의 본보기로 IAEA를 꼽았다. 오스트리아 빈에 본부를 둔 IAEA는 원자력 기술의 안전하고 평화로운 사용을 증진할 목적으로 1957년에 창설했다. IAEA는 190개국이 가맹한 핵확산금지조약(NPT)을 토대로 원자력의 무기화 등 비평화적 사용을 감시하는 권한을 행사한다. 다만 구테흐스 총장은 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다고 지적했다.

AI 규제를 위한 국제기구 설립 필요성은 꾸준히 제기돼왔다. 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO)도 지난달 미 의회 청문회에서 AI 기술에 대한 정부 규제와 개입을 요구하며 IAEA 같은 국제 규제기구 신설 필요성을 강조했다. 유럽연합(EU)에서도 AI 창작물에 별도표기를 의무화하는 등의 내용을 담은 규제법안이 지난달 유럽의회 상임위원회를 통과했다. 리시 수낵 영국 총리도 올 하반기에 ‘인공지능 정상회의’를 개최하겠다며 AI 국제기구를 런던에 유치하겠다고 제안했다.

구테흐스 총장은 AI를 규제할 다양한 계획들이 진행 중이지만, AI 발전이 매우 빠르게 진행되고 있기 때문에 전 세계적인 접근이 필요하다고 강조했다. 그러면서 어떤 목적에서도 허위 정보와 혐오발언의 이용, 지지, 증폭을 자제한다는 AI 행동원칙을 제시했다. 그는 유엔이 AI 관련 기구와 네트워크의 중심에 있도록 노력할 것이라면서도 “국제기구와 정부가 수십년 동안 과학과 전문인력에 대한 투자를 소홀히 한 까닭에 AI를 규제하는 것은 쉬운 과제가 아닐 것”이라고 한계점을 짚었다.

비영리조직인 ‘혐오·극단주의에 반대하는 세계프로젝트’ 공동설립자 하이디 베이리치는 “유엔이 AI 문제에 대한 국제적인 해결책을 요구하는 것은 긍정적”이라면서도 “유엔이 AI와 관련해 각국 정부의 법을 바꿀 수 있는 권한이 없는 만큼 온라인 세상의 문제를 막기에 한계가 있어 보인다”고 지적했다.

이윤정 기자 yyj@kyunghyang.com