유엔이 나섰다 “AI 위협, 기업은 해결 못해… 세계가 뭉치자”

글로벌 ‘AI표준’ 작업 본격 추진

그래픽=백형선

유엔(UN) 차원에서 인공지능(AI) 관련 글로벌 표준을 만드는 작업이 본격적으로 추진된다.

19일 UN의 인공지능 고위급 자문 기구(AIAB)는 ‘인류를 위한 인공지능 거버넌스(관리)’라는 제목의 보고서를 공개하고 글로벌 AI 거버넌스를 위한 7개 권고 사항을 밝혔다. 이 보고서는 “AI 발전의 속도, 자율성과 불투명성을 고려할 때 위협이 현실화될 때까지 기다리면 대응이 너무 늦어질 수 있다”며 “지속적으로 과학적 평가와 정책적 대화를 하면서 세계에 닥칠 피해를 사전에 막아야 한다”고 했다. 이 자문 기구는 지난해 10월 안토니우 구테흐스 UN사무총장이 직접 설립을 지시했다. 33국 출신의 기술, 법률 및 데이터 보호 분야 전문가 39명으로 구성됐다. 이들이 1년 가까이 머리를 맞대고, 전 세계적 차원에서 AI에 대한 대응 방안의 틀을 마련한 것이다. AIAB는 보고서에서 “가짜 뉴스와 딥페이크(AI로 만든 진짜 같은 가짜 콘텐츠)는 AI로 인한 가장 심각한 피해”라며 “기업의 자발적인 노력만으로는 해결할 수 없기 때문에 세계 각국의 다양한 이해관계자들이 참여해 구속력 있는 약속을 만들어야 한다”고 했다. 이번에 나온 보고서는 앞으로 글로벌과 각국의 AI 규제나 규범에 청사진을 제공할 것으로 전망된다.

그래픽=백형선

◇AI 정책 청사진 내놔

AIAB는 글로벌 차원에서 AI를 관리하기 위해 7가지 권고 사항을 제시했다. 첫째는 AI 역량·위험·동향을 과학적으로 분석해 연례 보고서를 내는 AI 국제 과학 패널을 설립하자는 것이다. UN의 지원을 받는 이 패널은 회원국 간의 정보 비대칭성을 해소하는 데 도움이 될 수 있다. 패널에서 내는 보고서를 바탕으로 AI 개발사와 연구자, 정부 관계자들이 참여하는 대화체를 만드는 것이 두 번째 권고안이다.

국경을 초월해 AI를 효율적으로 관리하기 위해서 표준을 만드는 것도 제안했다. 기술 표준뿐만 아니라 공정성이나 신뢰성 등 정량화하기 어려운 지표의 표준도 포함된다. 예를 들어 허위·오류 콘텐츠에 관한 세계 공통의 표준을 갖고 있으면, 공공과 민간의 실시간 정보 공유를 통해 문제 콘텐츠가 확산되기 전에 즉시 삭제하며 신속히 대응할 수 있다. 또 국가 간 AI 격차를 해소하기 위해 개발도상국의 연구자에게 교육, 컴퓨팅, AI 데이터 세트를 제공하는 AI 역량 개발 네트워크를 구축하고 이를 위해 정부와 민간 기업이 자금을 내서 글로벌 AI 기금을 설립할 필요가 있다고 했다.

보고서는 마지막으로 이런 권고 사항을 이행하고 조율하기 위해 UN 내에 소규모 AI 사무국을 구성할 것을 제안하고 있다. 자문 기구에 참여한 유일한 한국인인 고학수 개인정보보호위원회 위원장은 “AI의 위험이 더욱 심각해진다면, 회원국들이 AI의 감시, 보고, 검증, 집행 권한을 갖춘 더 강력한 국제 기구의 도입을 고려하게 될 것”이라고 말했다.

◇앞다퉈 글로벌 AI 정책 주도

22일부터 UN이 개최하는 미래정상회의에서는 이 보고서에 나온 내용을 바탕으로 글로벌 AI 거버넌스에 대한 논의가 이뤄질 예정이다. 이번 회의 3가지 주요 의제 가운데 디지털·기술이 포함돼 있다. 구테흐스 사무총장은 기후 문제와 함께 미래 세대를 위해 AI 관련 격차 해소 방안을 제안할 것으로 전망된다. 또 회의 개최 하루 전에 열리는 사전행사에서 이번 보고서 내용을 발표하는데, 이 자리에는 순다르 피차이 알파벳 CEO와 브래드 스미스 마이크로소프트 사장 등 AI 개발사 수장들이 참석한다.

AI의 발전과 함께 AI 규제를 위한 국제 사회의 공동 대응 움직임도 활발하다. 지난해 주요 7국(G7)은 일본 히로시마에서 연 정상회의를 계기로 AI에 대한 지침을 담은 ‘히로시마 AI 프로세스’를 발표했다. 지난해 11월엔 영국의 주도 아래 첫 AI 정상회담이 열렸고, 지난달에는 EU가 주도한 AI 사용에 관한 국제조약에 미국, 영국이 서명했다.