"AI, 시장에만 못맡겨"…유엔, 기후변화급 대응 등 7대과제 권고

"기술 중요성·위험성 지나치게 커 글로벌 접근 필요"
"기다리면 늦어"…딥페이크·허위정보 등 예방체계 추진

(서울=연합뉴스) 권수현 기자 = 유엔 인공지능(AI) 자문기구가 국제 AI 거버넌스(관리체제) 확립을 위한 첫걸음으로 7가지 과제를 제시했다.

유엔 사무총장 인공지능고위급자문기구(HLAB-AI·이하 자문기구)는 19일(현지시간) 발표한 '인류를 위한 AI관리' 보고서에서 국제 AI 거버넌스 구축을 위한 전문가 패널 설립과 기금 마련 등을 권고했다.

자문기구는 보고서에서 AI 기술의 중요성과 위험성 모두 지나치게 크기 때문에 "이러한 기술의 개발·배치 및 사용은 시장의 변덕에만 맡겨둘 수 없다"고 진단했다.

그러면서 "각국 정부와 지역 기구도 중요하지만 구조와 응용의 경계를 넘나드는 AI 기술의 특성상 글로벌한 접근방식이 필요하다"고 강조했다.

자문기구는 "AI의 (발전) 속도, 자율성과 불투명성을 고려할 때 위협이 부상하기를 기다리면 대응이 지나치게 늦어질 수 있다"며 "지속적인 과학적 평가와 정책 대화"를 통해 AI에 따른 잠재적 피해를 막아야 한다고 촉구했다.

또한 AI가 사회에 미치는 영향 가운데 "딥페이크, 음성복제, 자동화된 허위조작정보 캠페인은 민주주의 제도와 과정에 심각한 위협이 된다"며 "성을 매개로 한 딥페이크는 여성과 소녀들에게 특히 우려되는 사항이며 성별에 기반한 폭력의 한 형태"라고 경고했다.

자문기구는 AI 기술 발전에 따른 이러한 위협을 막고 인권을 보호하는 방향으로 AI를 개발하기 위해 7가지 권고사항을 제안했다.

먼저 전문가그룹으로 이뤄진 국제 과학패널을 만들라고 촉구했다.

유엔 기후변화에 관한 정부 간 협의체(IPCC)를 모델로 AI 분야 과학 전문가 그룹을 만들어 연례 보고서를 발표하게 한다는 것이다.

자문기구는 이 패널의 보고서를 토대로 각국 정부와 연구자, 업계 관계자 등 이해당사자들이 2년마다 한 차례씩 모여 AI 거버넌스에 대한 정책 대화를 하자고 촉구했다.

보고서는 이와 함께 국가별 AI 격차를 해소하기 위한 역량 개발 네트워크 구축과 이를 뒷받침하기 위한 AI 글로벌 펀드 조성, 권고사항을 이행하기 위한 유엔 사무국 내 조직 구성 등도 권고했다.

자문기구는 그러나 이번 보고서에 국제원자력기구(IAEA)같이 보다 영향력 있는 AI 국제기구 설립과 같은 내용은 담지 못했다고 AFP는 지적했다.

유엔 차원의 AI 비전을 담은 이번 보고서는 오는 21일 안토니우 구테흐스 유엔 사무총장 주관으로 열리는 '미래정상회의 행동의 날' 행사에서 논의될 예정이다.

구테흐스 사무총장의 제안으로 지난해 10월 출범한 자문기구는 전 세계 AI 분야 관계자 39명으로 구성됐다.

자문기구는 지난해 12월 AI 거버넌스에 대한 중간 보고서를 발간했고 전문가 논의 등을 거쳐 이번에 최종 보고서를 냈다.

inishmore@yna.co.kr

▶제보는 카톡 okjebo