AI 전문가 수백 명 공개 서한… “딥페이크 막기 위한 법적 기반 마련하라”

세계적 팝스타 테일러 스위프트의 불법 딥페이크가 소셜미디어(SNS)를 통해 번지며 딥페이크 범죄가 거대한 사회 문제로 인식되는 계기가 됐다./조선일보DB

세계적 인공지능(AI) 석학 요슈아 벤지오 캐나다 몬트리올대 교수를 비롯한 600명 이상의 AI 전문가와 업계 관계자들이 딥페이크에 강한 규제가 필요하다는 서한을 공개했다. AI 기술 발전으로 인해 AI 콘텐츠가 사람들을 교묘하게 속일 수 있게 되면서 사회적 혼란이 커지고 있다는 것이다.

‘딥페이크 공급망을 붕괴시켜라’는 제목으로 21일(현지 시각) 공개된 이번 서한에는 벤지오 교수를 비롯해 가상현실의 창시자 재런 러니어, 스튜어트 러셀 UC버클리 교수, 게리 마커스 뉴욕대 명예교수, 스티븐 핑거 하버드대 심리학 교수 등 전문가들이 이름을 올렸다. 특히 딥페이크를 탄생시킨 AI 기술 개발을 주도하고 있는 구글 딥마인드와 오픈AI 연구원들도 이름을 올렸다. 이들은 서한에서 “딥페이크로 인한 사회적 위협이 커지고 있으며 각국 정부는 딥페이크 확산을 막기 위해 공급망 전반에 의무를 부과해야 한다”고 주장했다. 세부적으로는 가상의 아동으로 만든 딥페이크 아동음란물을 모두 범죄로 규정하고, 악의적으로 딥페이크를 만들거나 유포했을 때도 형사 처벌을 받을 수 있도록 조항을 만들라고 요구했다. 또 소프트웨어 개발자와 배포자는 유해한 딥페이크 생성을 방지해야 할 뿐만 아니라, 사용자들이 이러한 예방 조치를 쉽게 회피하게 될 경우 개발자와 배포자에게 책임을 묻는 법적인 기반을 만들라고 했다. 개발자와 사용자 등 사회 구성원 모두가 AI 기술 활용에 대해 책임질 수 있게 하자는 것이다.

이들이 대규모 성명을 통해 딥페이크 확산에 제동을 걸어야 한다고 주장한 이유는 생성형 AI의 확산으로 누구나 쉽게 딥페이크 기술을 활용할 수 있게 되면서 관련 범죄가 급증하고 있기 때문이다. 사이버 보안 업체 홈시큐리티 히어로스에 따르면 지난해 온라인에 유포된 딥페이크 영상 수는 9만5820건으로 2019년 대비 550% 증가했다. 글로벌 빅테크들은 AI로 만들어진 이미지와 영상에 ‘꼬리표’를 붙이기로 합의하는 등 딥페이크 차단에 나서고 있지만 법적인 강제성이 없어 실효성에 의문이 제기되고 있다.