UN "AI, 시장에만 못 맡겨…딥페이크 등 예방체계 추진"

유엔 인공지능(AI) 자문기구가 AI 기술의 개발과 사용을 시장의 변덕에만 맡겨둘 수 없다고 진단했습니다.

유엔 사무총장 인공지능고위급자문기구는 현지시간 19일 발표한 '인류를 위한 AI관리' 보고서에서 국제 AI 거버넌스 구축을 위한 전문가 패널 설립과 기금 마련 등을 권고하며 이같이 밝혔습니다.

자문기구는 AI 기술의 중요성과 위험성 모두 지나치게 크기 때문에 "이러한 기술의 개발·배치 및 사용은 시장의 변덕에만 맡겨둘 수 없다"며 "각국 정부와 지역 기구도 중요하지만 구조와 응용의 경계를 넘나드는 AI 기술의 특성상 글로벌한 접근방식이 필요하다"고 강조했습니다.

자문기구는 "AI의 (발전) 속도, 자율성과 불투명성을 고려할 때 위협이 부상하기를 기다리면 대응이 지나치게 늦어질 수 있다"며 "지속적인 과학적 평가와 정책 대화"를 통해 AI에 따른 잠재적 피해를 막아야 한다고 촉구했습니다.

또한 딥페이크, 음성복제 등이 AI 기술이 민주주의 제도와 과정에 심각한 위협이 된다고 경고하면서 "성을 매개로 한 딥페이크는 여성과 소녀들에게 특히 우려되는 사항이며 성별에 기반한 폭력의 한 형태"라고 진단했습니다.

자문기구는 AI 기술 발전에 따른 이러한 위협을 막고 인권을 보호하는 방향으로 유엔 기후변화에 관한 정부가 협의체(IPCC)처럼 AI 분야 과학 전문가 그룹을 만들어 연례보고서를 발표하는 등의 방안을 제안하기도 했습니다.

유엔 차원의 AI 비전을 담은 이번 보고서는 오는 21일 안토니우 구테흐스 유엔 사무총장 주관으로 열리는 '미래정상회의 행동의 날' 행사에서 논의될 예정입니다.

박수진 기자 start@sbs.co.kr