[사설] ‘딥페이크’ 공포… AI 기술 제어할 사회적 논의 서두를 때

음란물에 전혀 무관한 이의 얼굴을 합성한 ‘딥페이크’ 영상의 제작·유포는 명백한 범죄 행위다. 2020년 개정된 성폭력처벌법 14조에 처벌 규정이 적시돼 있다. 이는 소셜미디어의 익명성과 인공지능(AI) 기술의 첨단성을 악용해 벌이는 매우 악랄한 범죄이기도 하다. 빌미가 될 어떤 행동도 하지 않은 무고한 이들을 악몽에 시달리는 피해자로 전락시킨다. ‘장난’이란 핑계를 앞세워 이를 버젓이 자행하는 범죄자들의 행태가 우리 사회에 공포의 그림자를 드리웠다.

최근 대학가에서 딥페이크 영상이 유포된 데 이어 그런 영상을 퍼뜨리는 텔레그램 대화방이 잇따라 확인됐다. 무려 22만명이 가입된 채널도 발견됐고, 대학생·청소년·교사·군인 등 다양한 이들이 자신도 모르는 사이에 피해를 당하고 있었다. AI 활용의 기준과 규제가 미처 자리를 잡기 전에 그 해로운 이면이 먼저 뿌리를 내리려 하는 것이다. 지금 제대로 대응하지 못하면 계속 끌려다닐 수밖에 없다. 경종을 울릴 시스템을 서둘러 갖춰야 할 때다.

딥페이크에 대응하는 직접적인 조치는 크게 두 갈래, 범죄의 적발·처벌과 피해자 보호로 나눌 수 있다. 면밀한 모니터링과 신고 유도를 통해서 악랄한 범죄를 찾아내 엄벌하고, 영상물의 조속한 삭제와 유포 차단 체계를 구축해 피해를 최소화해야 할 것이다. 이를 위해선 개별 범죄 행위를 넘어 그것을 가능케 한 배경적 요인에까지 규제의 범위가 미쳐야 한다. 범죄의 수단인 AI 기술과 그 무대인 SNS 플랫폼에 반인권적 범죄 행위에 대한 사회적 책임을 부과하는 조치가 필요하다. AI 생성물에 특정 표식을 입히게 하고, 그러지 않을 경우 플랫폼 기업이 유통을 차단케 의무화하는 법안이 현재 국회에 계류돼 있다. 본격적인 검토를 서둘러야 할 것이다.

신기술은 늘 양면성을 품고 있다. 정보의 문턱을 없앤 인터넷이 가짜뉴스 무대가 되고, 소통의 장벽을 없앤 SNS에서 혐오와 차별이 퍼지듯이, 부작용은 뒤통수를 치며 모습을 드러낸다. AI도 같은 과정을 밟을 텐데, 그 기술의 파괴력만큼 부작용의 폐해도 엄청날 것이다. 혁신의 길을 열어주면서 이를 적절히 제어하기 위한 사회적 논의를 시작해야 한다.

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지