딥페이크 넘어 AI 확산 우려 '청소년 범죄'...이용률 급증, 교육은 부족

전국 중·고생 생성형 AI 교육받은 비율 35.7% 불과
딥페이크 피의자 33명 중 31명이 10대 청소년, 텔레그램 10대 이용자 한 달 새 10만명 폭증
전문가 "좋고 나쁨이 아니라, 다양한 교육이 필요"

[파이낸셜뉴스] 텔레그램 등 사회관계망서비스(SNS)를 악용한 딥페이크 성범죄물의 무분별 생성·유포되는 사태가 사회문제로 부각하면서 윤리 교육 강화 필요성에 대한 목소리도 커지고 있다. 심각성이 알려진 딥페이크 이미지뿐만 아니라 인공지능(AI)으로 만든 음란물·가짜뉴스 등도 확산될 가능성이 높은 만큼 대비가 필요하다는 지적이다. 그러나 현실은 아직 이를 따라가지 못하고 있다.

10일 최근 한국청소년정책연구원이 내놓은 '청소년 디지털 인재를 어떻게 양성할까' 보고서에 따르면 지난해 7∼8월 전국 중·고등학교에 다니는 청소년 2261명 대상으로 설문한 결과 올해 6월까지 학교에서 '생성형 AI 기술 활용 교육'을 받은 비율은 35.7%에 불과했다.

보고서에서 한 중학생은 "딥페이크나 디지털 범죄가 심각하다고 생각하지만, 학교에서 예방 교육을 받아본 적이 없다"며 "한때 딥페이크에 관한 범죄 예방이 화제가 됐다가 사라진 적이 있는데, 이것이 심각한 문제라는 사실을 학생들한테 인지시켜 줬으면 좋겠다"고 제안했다.

반면 경찰이 내놓은 수치는 딥페이크 범죄물에서 가장 취약한 계층은 청소년이라는 것을 보여준다. 경찰 집중단속이 이뤄진 지난달 26일부터 30일까지 5일간 딥페이크 범죄 피의자로 특정된 33명 중 31명이 10대였다. 경찰은 이 가운데 7명을 검거했다. 청소년은 6명이다. 올해 1∼7월 딥페이크 등 범죄 혐의로 입건된 피의자 총 178명을 연령별로 구분해 봐도 10대가 131명(73.6%)으로 가장 많았다.

실제 경기 안산상록경찰서는 딥페이크 성착취물을 만들어 판매한 혐의(청소년성보호법상 아동·청소년성착취물제작 및 배포 등)로 대구·경북지역 고등학생 A군을 지난 5일 입건해 조사하고 있다. 경찰은 A군의 자택 압수수색과 휴대전화 디지털포렌식을 통해 딥페이크 성착취물 317장을 발견해 압수했다.

여기다 팁페이크 발생의 주요 근원지로 지목된 텔레그램에서 10대 이하 월간 활성 이용자는 7월 41만1754에서 8월 51만1734으로 한달 새 10만명 가까이 급증했다. 전체 증가 폭에서 차지 비중은 32.1%에 달했다.

문제는 아직 AI를 올바르게 사용하기 위한 정부 차원의 구체적인 교육 가이드라인은 아직 마련되지 않은 상황이라는 점이다.

경기 부천의 30대 교사 A씨는 "AI 관련해서 교육하고 싶어도 정확한 가이드라인이 없어 교사들끼리 자체적으로 머리를 맞대고 있는 상황"이라며 "단순히 '딥페이크가 나쁘다' 수준을 넘어 AI 윤리와 관련된 다양한 측면의 교육이 필요하다"고 조언했다.

전문가들도 선제적인 AI 윤리 교육의 필요성을 강조했다.

김대근 한국형사법무정책 연구원은 "AI가 가지는 편향성, 확장성의 측면을 넘어 딥페이크 성범죄 사례와 같은 인격을 침해하는 새로운 범죄 행위가 발생하고 있는 상황"이라며 "AI를 소재 또는 매개로 하는 다양한 형태의 문제가 발생함에 따라 사용자들이 준수해야 할 새로운 윤리가 필요한 시점"이라고 말했다.

미국·유럽 등 해외 국가도 딥페이크를 포함한 다양한 AI 관련 문제에 대해 고민하고 있다. 미국의 경우 AI 연구를 맡고 있는 대학 기관 등이 학생들과 일반인들을 위한 윤리 교육 가이드를 자체적으로 만들어 배포하기도 했다.

wongood@fnnews.com 주원규 기자