[화요광장] 아동의 안전한 디지털 환경조성

한전복 초록우산 충청권역총괄본부장.

최근 언론 보도에서 'SNS 프로필 사진 다 내려…딥페이크 확산, 학교·학부모 비상', '혹시 내 사진도?…학교 덮친 딥페이크 범죄 공포' 등의 내용이 담긴 기사가 눈에 띈다. 지면이나 온라인상에서 상위로 검색되는 단어도 딥페이크다. 딥페이크란 인공지능(AI) 심층 학습을 뜻하는 딥 러닝(deep learning)과 가짜(fake)의 합성어다. 즉, AI로 만든 '진짜 같은 가짜 콘텐츠'를 뜻한다.

딥페이크 확산은 국가 위기 상태라 불릴 만큼 심각한 사회적 문제로 대두되고 있다. 언론매체에서는 연일 딥페이크를 주요 이슈로 다루고 있다. 안타까운 건 딥페이크 범죄 피해자와 피의자 모두 10대가 증가하는 추세라는 것이다. 조은희 국민의힘 의원실에서 경찰청에서 받은 자료를 분석해 보도한 내용을 인용하면, 최근 3년간 허위 영상물을 만들어 제작·배포해 입건된 피의자의 69%(194건)가 10대였다. 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터에 딥페이크 피해 지원을 요청한 781명 중 36.9%(288명)는 10대 이하였다. 디지털 원주민이라고 불릴 정도로 소셜미디어 사용에 익숙하고 일상화가 되어버린 세대가 10대들이다. 이들은 딥페이크 합성물을 만들고 공유하는 것이 범죄라는 것을 잘 인식하지 못하며, 심지어 교사 사진으로 딥페이크 성범죄물을 만든 학생들도 있다고 한다. 이는 심각한 문제가 아닐 수 없다. 시급히 예방 및 해결책이 마련돼야 한다.

AI를 이용해 지인 대상 합성물을 제작·유포하는 딥페이크 성범죄는 자신도 모르는 사이에 피해를 당할 위험이 크다. 최근에는 개인의 불안 요소를 넘어 국가적 불안 요소로까지 확산하고 있다. 8월 28일부터 7개월간 경찰이 특별 단속에 나선다고는 하지만, 이는 근본적인 해결책이 될 수 없다. 다행스러운 점은 정부와 정치권에서 대책 마련을 서두르고 있다는 것이다. 딥페이크 제작 및 배포가 성범죄임을 명확히 인식시키고 기본 권리를 침해하는 행위라는 것을 교육해야 하며, 국가 차원의 신고 절차 및 대응, 실태조사, 지원 대책 등 법적·제도적 장치가 마련돼야 한다.

우리 모두는 미래세대의 주역인 아동에게 많은 관심을 가져야 한다. 특히 아동의 안전한 디지털 환경 조성을 위한 노력에 심혈을 기울여야 한다. 현재 우리 아동들은 디지털 환경에서 개인정보와 자신의 권리를 충분히 보장받지 못하고 있다. 사이버폭력, 오픈 카톡, 인스타그램, 쇼츠 등 인터넷 등 소셜 미디어에 쉽게 접근할 수 있는 환경에 놓여있고, 자신의 사진이나 영상을 올려 자신을 알리고 표현하는 아동이 많아지고 있다.

초록우산은 아동권리 옹호단 '그린즈'를 운영하고 있다. '그린즈'는 아동이 자신의 권리를 이해하고, 권리 증진을 위한 옹호 활동을 직접 기획·참여하는 초록우산의 아동 참여 조직이다. 2024년 아동의 안전한 디지털 환경 조성을 목적으로 마련됐다. 아동들이 주로 사용하는 플랫폼 기능의 취약점과 아동 권리 침해 요소를 파악, 개선점을 제안하는 활동을 이어오고 있다.

활동을 통해 도출된 아동들의 의견을 소개하고자 한다. 아동 스스로 지킬 약속으로는 개인정보 철저히 보호하기, 존칭 사용, 거짓 정보에 속지 않기, 모르는 사람에게 온 연락·DM 등 답장 금지, 비밀번호 자주 변경하기 등이다. 서로에게 바라는 점은 디지털 환경에서 비속어 쓰지 않기, 다른 사람을 사칭하지 않기, 단톡방에서 뒷담화하지 않기, 확실하지 않은 정보 퍼트리지 않기 등이다. 어른들에게 바라는 것은 어린이를 대상으로 기망행위를 하지 않기, 유해한 앱 제작하지 않기, 부모님과 함께 안전한 디지털 환경에 대해 알아보기였다. 마지막으로 디지털 플랫폼을 운영하는 기업에는 부정적인 영향을 주는 내용(욕설, 유해콘텐츠)을 차단하거나 강제 삭제하기, 가짜 정보 구분, 개인정보유출금지, 많이 사용하는 앱에 대한 철저한 검역을 요청했다. 플랫폼의 주된 사용자이지만, 철저한 약자인 아동들의 안전한 플랫폼 이용을 위한 변화와 개선을 위해서다.

2020년 우리를 경악하게 한 '텔레그램 N번방' 사건을 계기로 딥페이크 성범죄에 대해서도 성폭력처벌법을 적용하도록 입법을 보완했으나, 빠져나갈 수 있는 허점도 있다. 이번 기회에 처벌 규정과 국가 차원의 예방 및 보호 대책 등이 마련돼 할 것이다. 아울러 기업과 사회 전체가 아동의 목소리에 귀 기울이고 그들이 안전하게 디지털 세상을 탐험할 수 있도록 책임감을 지니고 행동해야 한다. 더불어 아동들이 스스로 권리와 안전을 지키며 건강한 디지털 습관을 형성할 수 있도록 교육과 지원 또한 강화돼야 할 것이다. 모두가 함께하는 노력으로 아동들이 꿈꾸는 안전한 디지털 환경을 현실로 만들어 나가기를 기대한다. 한전복 초록우산 충청권역총괄본부장