[세상읽기] 딥페이크 사태가 남겨준 교훈

김명주 서울여대 정보보안학과 교수

역사상 가장 뜨겁고 긴 무더위로 모두가 힘들어했던 2024년 여름. 결코 끝나지 않을 것 같던 뜨거운 날씨가 드디어 꼬리를 보일 무렵 이 땅의 아동 청소년들을 중심으로 벌어진 딥페이크 음란물 사태는 그간의 여름 더위 못지않게 우리 모두를 힘들게 했다. 이 사태를 몰고 온 원인을 규명해 필요한 대책을 수립하고자 정부, 국회, 교육계, 시민단체, 언론 할 것 없이 모두가 발 벗고 나섰다.

매일 딥페이크는 뉴스의 첫머리였고 긴급회의의 주요 의제였다. 서로를 바라보며 고성으로 대립해 오던 여야 국회의원들도 딥페이크 입법 논의를 위해 나란히 곁에 앉아 고민하는 보기 드문 장면도 연출됐다. 이 때문인지 딥페이크와 관련해 국회에서 발의된 법안만 해도 50건을 훌쩍 넘었다.

텔레그램이라는 보안 메신저가 주범으로 꼽혔다. 범죄 증거를 수사기관에 제공하지 않는 특징 때문에 뒤탈이 걱정되는 사람들의 은신처로 텔레그램이 최적이었다. 우리 아이들도 이를 알고 있었다. 더구나 텔레그램에 가입할 때 가상 전화번호를 사용해야 한다는 것까지도 알아 필요한 앱도 사용했다.

가입자가 5억명을 넘어가던 2021년. 텔레그램은 광고 시스템을 도입했다. 가입자 1천명이 넘는 공개 채널 운영자와 50 대 50으로 광고 수익을 나누었다. 올해부터는 블록체인 기반의 광고생태계를 도입해 거래소에서 환전이 가능한 텔레그램 암호화페 ‘TON’를 광고수익으로 지급했다.

공개 채널 운영자에게는 가입자 다수 확보가 가장 큰 관심사이었다. 때마침 유능한 인공지능(AI) 딥페이크 소프트웨어가 일반인에게 공개되자 이를 토대로 딥페이크 봇을 만들었다. 그리고 이 봇을 채널에 부착해 가입자 유도용으로 악용했다. 기존 가입자가 새로운 가입자를 초대하면 딥페이크 봇 이용권이 제공됐다. 이렇듯 딥페이크 음란물은 무한 증식을 시작했다.

아이들이 이 위험에 다시 빠져들지 않도록 하기 위한 대책들은 분명해 보인다. 텔레그램과 같은 플랫폼 사업자들에게 불법 콘텐츠 유통 차단의 책임을 부여한다. 딥페이크 봇을 비롯한 생성형 AI의 모든 합성 출력물에 워터마크와 같은 표식을 꼭 부착하게 만든다. 처벌을 강화해 범죄 의사를 줄인다. 특히 딥페이크 제작자뿐 아니라 구경하고 다운로드해 소지하는 사람도 처벌한다. 그동안 아동 청소년에게 제한됐던 위장수사의 적용 연령도 확대한다. 피해자 구제 활동도 강화한다.

그러나 이러한 원인 규명과 대안 수립에도 불구하고 보다 근본적인 원인은 따로 있다. 바로 디지털 전환기에 놓인 사회 전반에 걸쳐 일어나고 있는 ‘윤리 지체 현상’이다. 많은 어른에게 AI는 여전히 ‘미래 기술’이다. 교육부에서 추진하고 있는 AI 디지털 교과서(AIDT) 사업도 내년부터 시작된다. 지금까지 AI 없이도 잘 살아온 어른들에게 AI는 꼭 필요한 기술도 아니며 생소하기도 해 여전히 미래 기술이다. 그러나 우리 아이들에게는 벌써 ‘현재 기술’이다. AI 글로벌 기업들은 이미 우리 생활 속 깊숙이 AI를 밀어넣고 있다.

유능한 기술일수록 부작용과 역기능도 심각하다. AI가 바로 그런 기술이다. 기술이 사회를 바꾸고 문화를 바꾸면 당연히 사회구성원들의 의식과 역량도 이에 대응해 변하고 향상돼야 한다. 그러나 어른들에게 AI는 미래 기술이기에 이런 준비를 미리 하지 못했다. 그래서 아이들은 현재 기술 AI에 대해 제대로 된 ‘윤리 교육’도 받지 못한 채 무방비 상태로 노출된 것이다. 이러한 윤리 지체 현상이 이번 2024년 여름 딥페이크 사태의 가장 근본적인 원인이다. 따라서 이러한 AI 윤리 지체 현상을 조속히 풀어내는 것은 앞서 제시한 여러 대안 못지않게 시급하며 중요하다. 그런데 그럴 만한 역량을 과연 어른들이 가지고 있을지 새로운 걱정이다.

경기일보 webmaster@kyeonggi.com