“AI 딥페이크 허위 정보, 신속한 심의 중요 국민 생활에 악영향… 발 빠른 대처로 차단” [심층기획-사회 혼란 빠뜨리는 '가짜뉴스·딥페이크']

“국민 생활에 악영향… 발 빠른 대처로 차단”

“인공지능(AI) 딥페이크를 활용한 유명인 얼굴·음성 합성, 음란물 제작 및 유포 등 허위 조작 정보는 일반적인 가짜뉴스보다 훨씬 악의적이고 국민 생활에 지대한 부정적 영향을 미치는 만큼 신속한 심의를 통한 발 빠른 대처가 중요합니다.”

방송통신심의위원회 통신소위원장인 김정수(사진) 방심위원은 27일 세계일보와의 통화에서 “딥페이크 기술을 활용해 최근 축구선수 등 유명인들의 얼굴과 목소리를 이용해 검증되지 않은 기업에 투자를 권유하거나 특정상품의 구매를 유도하는 등의 가짜뉴스가 확산해 일반인들의 피해가 급증하고 있다”며 이처럼 말했다.

그러면서 그는 “지금까지 방심위가 집중해서 심의했던 마약, 음란물, 저작권, 초상권 침해 등의 기존 범죄 외에 AI 기술을 활용한 신종범죄가 급증하는 만큼 방심위도 이에 대처하기 위한 대책 마련을 하고 있다”고 전했다.

최근 가짜뉴스가 급증하면서 방심위를 비롯해 정부 당국도 가짜뉴스 확산을 경계하며 감시·감독을 강화하는 추세다. 방심위는 이날 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하자 긴급회의를 소집했고, 최근엔 ‘코로나 백신에 원숭이 세포가 있다’거나 ‘코로나 백신을 맞으면 에이즈에 걸린다’ 등 가짜뉴스가 확산하자 ‘사회혼란 야기 정보’에 대해 중점 모니터링에 나섰다.

김 위원은 “2020년부터 2022년까지 신종 코로나바이러스 감염증(코로나19) 확산기에도 코로나 백신 관련 가짜뉴스가 급증해 사회혼란 야기 정보 총 256건에 대해 시정 요구한 바 있다”며 “정부의 방역 활동에 지장을 초래하고, 국민혼란을 가중하고 있는 만큼 발 빠른 대처가 중요했다”고 말했다.

빠른 전파력을 가진 가짜뉴스의 특성을 감안한 신속한 대응도 필요해 보인다. 김 위원은 “원칙적으로 민원이 접수된 순서대로 심의하지만 이런 가짜뉴스는 전파속도가 빠르고, 한번 노출될 경우 그 피해를 복구하기 힘든 특성 때문에 집중 모니터링을 통해 선제적으로 가짜뉴스를 발견하고, 심의 및 대응할 필요가 있다”고 강조했다.

이어 그는 “최근 미디어 플랫폼이 다양해지면서 통신영역의 가짜뉴스와 방송 영역의 가짜뉴스 경계가 모호해지고 있다”며 “유튜브, 페이스북 등 소셜미디어와 1인 방송 등의 통신영역이 기존 지상파 방송 못지않게 영향력이 급증한 만큼 허위조작정보 확산에 따른 사회적 혼란을 막기 위해 방심위의 공적 규제 외에 국내외 인터넷 사업자들의 자율적인 모니터링 활동도 더욱 강화할 필요가 있다”고 밝혔다.

김건호 기자 scoop3126@segye.com