유엔 "핵 버금가는 AI 국제규약 만든다"

구테흐스 총장, 인권·법치 고려
'국제 행동규약' 내년 9월에 발표
"AI 능력 인류 존망 위협할수도
IAEA같은 규제기구까지 염두"

핵에 준하는 AI(인공지능) 국제규범과 질서가 필요하다는 지적이 일각에서 나오는 가운데 유엔이 IAEA(국제원자력기구)급 AI 규제기구와 국제규약 도입을 추진한다. 디지털플랫폼과 AI 사용을 규제하기 위한 '국제행동규약'을 마련해 내년 9월 유엔 미래정상회의 전 발표한다는 계획이다.

안토니우 구테흐스 유엔 사무총장은 12일(현지시간) 기자회견을 갖고 "AI 거버넌스 협정을 검토하고 인권, 법치 등에 부합하는 방법에 대한 권고사항을 마련할 것"이라고 말했다. 수일 내에 AI 전문가들과 유엔기구의 수석 과학자로 구성된 과학자문위원회를 임명한다는 계획이다.

구테흐스 총장은 기자회견에서 허위 정보와 증오의 확산, AI 발전에 따른 위협이 통제할 수 없는 수준이 될 수 있다고 지적했다. 그는 "허위 정보를 대규모로 퍼뜨리는 AI의 능력이 인류의 존망에 위협을 가할 수 있다. 유엔의 평화유지 임무와 인도주의적 지원 활동이 AI 공격의 표적이 되고 있다"고 주장했다.

구테흐스 총장은 MS(마이크로소프트), 구글 등 주요 IT 기업 CEO(최고경영자)와 AI 전문가들이 "AI로 인한 인류멸종 위험을 완화하는 것이 다른 사회적 규모의 위험과 함께 세계의 우선 과제가 돼야 한다"고 경고했다고 언급했다.

그러면서 "과학자들과 전문가들은 AI가 핵전쟁의 위험과 동등한 수준의 인류에 대한 실존적 위협이라고 선언하며 전 세계에 행동을 촉구했다"면서 "AI를 설계한 개발자들의 이런 경고를 우리는 진지하게 받아들여야 한다"고 했다.

구테흐스 총장은 "IAEA 같은 AI 규제기구를 둘 수 있다는 생각에 동의한다. 다만 창립 주체는 유엔 사무국이 아닌 회원국이 돼야 한다"고 밝혔다. 챗GPT를 개발한 오픈 AI의 샘 알트만 CEO도 최근 AI의 위험성에 대비해 IAEA 같은 기구가 필요하다는 의견을 내놨다.

오스트리아 빈에 본부를 둔 IAEA는 1957년에 창설됐으며 NPT(핵확산금지조약)의 위반 가능성을 감시하고 원자력 사용 규제 권한을 가진다. 1970년 발효된 NPT를 바탕으로 핵무기 비보유국은 IAEA와 평화적 핵 이용 활동을 위한 안전 협정을 체결해야 한다. IAEA는 핵무기 비보유국이 핵 연료를 군사적으로 사용하는 것을 막기 위해 핵물질 관리실태를 점검하고 직접 사찰하는 권한을 가진다.

구테흐스 총장은 AI 거버넌스 체계를 검토하고 인권, 법치 등에 부합하는 방법에 대한 권고안을 제시하기 위해 연말까지 고위급 AI 자문기구에서 작업을 할 계획이라고 밝혔다. 유엔 정보통신기술 관련 전문기관인 ITU 수석과학자 등을 비롯해 외부 전문가를 고문으로 둔 과학 자문기구도 곧 구성할 계획이다. 다만 AI 규제 전문기구가 설립되기 전에 국제사회의 합의가 선행돼야 한다고 구테흐스 총장은 밝혔다.

디지털플랫폼과 AI 사용을 국제적 차원에서 규제하기 위한 '국제 행동규약' 제정을 추진해 내년 9월 유엔 미래정상회의 전 발표하겠다는 계획이다. 그러면서 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭 등을 자제한다는 원칙을 제시했다.

구테흐스 총장은 "정부가 음모와 거짓을 폭로하고 표현과 정보의 자유를 보호하면서 사실을 홍보하는 가이드라인을 중심으로 협력하도록 가드레일을 만들고자 한다. 이를 통해 기술기업이 어려운 윤리적, 법적 문제를 해결하고 건강한 정보 생태계 위에서 비즈니스 모델을 구축하도록 지원할 것"이라고 밝혔다.

안경애기자 naturean@dt.co.kr