딥페이크 유혹 억제하는 건 결국 사람 [내 아이 상담법]

유혜진의 내 아이 상담법
심각한 딥페이크 성착취물
피의자 10명 중 8명은 10대
글로벌 빅테크 제도 마련하고
정부 차원 대책 내놓고 있지만
진화하는 AI 탐욕 억제하긴 벅차
아이들에게 ‘이타심’ 가르칠 때

청소년들 사이에 인공지능(AI) 기술을 기반으로 한 딥페이크 성착취물 문제가 심각하다. 딥페이크 성범죄 피의자 10명 중 8명은 10대일 정도다. 이 때문인지 정부 차원에서 다양한 대책을 내놓고 있다. 글로벌 빅테크도 제도적 규제책을 마련하고 있다. 문제는 이같은 법적 제도적 대책으로 진화하는 AI의 탐욕을 억제할 수 있느냐다.

딥페이크 범죄를 저지르는 청소년들이 늘어나고 있다.[사진 | 게티이미지뱅크]

# 얼마 전 교사를 대상으로 딥페이크(불법합성물)를 제작하고 유포한 학생의 이야기를 뉴스로 접하고 마음이 참담했다. 딥페이크는 인공지능(AI) 심층 학습을 뜻하는 '딥러닝(deep learning)'과 가짜를 뜻하는 '페이크(fake)'의 합성어로 AI 기술을 기반으로 한 가짜 이미지, 오디오, 비디오를 의미한다.

피해자 교사 입장에서 보면 자신의 가짜영상이 유포되고 있다는 것만 해도 끔찍한 일일 텐데, 그것을 제작한 사람이 제자라는 사실은 엄청난 충격일 수밖에 없을 것이다.

이 사례에서 보듯, 딥페이크 범죄를 저지르는 청소년이 가파르게 늘고 있는 추세다. 올해 10월 25일까지 경찰이 검거한 딥페이크 성범죄 피의자 506명 중 10대는 무려 411명(81.2%)에 이른다. 이중 형사처벌을 받지 않는 10세 이상 14세 미만 촉법소년은 78명(15.4%)이었다.

피해도 심각하다. 교육부가 올해 1월 1일부터 10월 25일까지 전국 학교 내 딥페이크 성착취물 피해자를 조사한 '학교 딥페이크 허위영상물 피해 현황'에 따르면 피해 신고는 542건이며 피해 학생ㆍ교직원의 숫자는 901명이나 됐다.

상황이 이렇다 보니 정치권은 딥페이크 성범죄를 법으로 규제하는 성폭력범죄처벌특례법을 발의했다. 9월 26일 국회 본회의를 통과한 이 개정안에 따라 딥페이크 성착취물을 소지, 구입, 저장, 시청한 이를 처벌할 수 있는 길이 열렸다. 여성가족위원회도 아동청소년의 성보호에 관한 법률(청소년성보호법), 성폭력 방지 및 피해자 보호 등에 관한 법률 개정안을 의결했다.

법적 규제만이 아니다. 사회 전반에서 딥페이크 성착취물을 방지하기 위한 다양한 대책을 마련하고 있다. 서울시는 '서울 디지털성범죄 안심지원센터'에서 피해를 접수하고 원스톱으로 지원할 수 있는 체계를 마련함과 동시에 카카오톡 오픈채팅방을 개설했다. 구글과 오픈AI 등 빅테크 기업들도 AI를 기반으로 한 딥페이크를 차단하는 데 합의했다.

기업들은 오해 가능성이 있는 딥페이크를 감지해 '라벨'을 붙이기로 했다. 누군가에게 영향을 줄 수 있는 딥페이크를 감지해 조치를 취하고 콘텐츠 확산에 신속하고 균형적으로 대응하기로 한 것이다.

하지만 이게 상책일까. 법적 제도적으로 모든 피해를 막아낼 수 있을까. 필자는 그렇지 않다고 본다. 딥페이크 성착취물의 가장 큰 폐해는 사람들 간의 신뢰를 파괴한다는 점이다. 예컨대 딥페이크 성범죄가 만연하면 '혹시라도 내 주변인이 딥페이크 합성물을 돈벌이 수단으로 악용하고 있지는 않을까' 의심할 수 있고 이는 신뢰를 기반으로 살아갈 수 없다는 걸 의미한다.

이는 딥페이크의 문제를 막기 위해선 법적 제도적 규제를 넘어선 무언가가 필요하다는 걸 시사한다. 방법은 결국 '이타심'이다. 딥페이크 성범죄처럼 기술 발전에 따른 부작용을 막을 수 있는 유일한 방법은 상대방의 입장에서 생각하는 '배려'라는 거다.

특히 아이들에겐 절실한 과제다. 고도로 발전한 기술의 시대를 살아가야 하는 우리 아이들이 타인을 배려할 줄 아는 성인으로 자라기 위해선 부모, 교사, 사회의 모든 어른이 도와야 한다.

[일러스트 | 게티이미지뱅크]

미국 심리학자 캐롤 길리건은 "인간의 도덕적 발달에서 최고 수준은 자신과 타인을 향한 배려인데, 이는 인간관계에서의 이기심과 책임의 대립이 해소되는 단계"라고 말했다. 미국 심리학자 로런스 콜버그는 "아동은 도덕적인 타인과의 경험을 통해 도덕성이 발달된다"고 주장했다.

기술은 계속 진화할 게 분명하다. 당연히 딥페이크 기술도 가파르게 성장할 것이다. 이런 맥락에서 법적 제도적 규제가 빠르게 진화하는 기술을 좇아가지 못할 가능성은 적지 않다. 그래서 중요한 게 '이타심'이다. 법적 제도적 규제를 피할 수 있는 기술이라도 사용자가 셀프 통제한다면 위험성이 사라진다.

사용자만 현명하게 판단한다면 아무리 뛰어난 딥페이크 기술도 임계점을 넘지 않을 것이란 얘기다. 인터넷이든 사물인터넷(IoT)이든 AI이든 결국 '사람'의 손을 타야 한다. 기술이 제공하는 파괴적 유혹을 통제하고, 억제할 수 있는 힘도 '사람'에서 나온다. 지금이야말로 아이들에게 '이타심'을 가르칠 때다. 수학 한 문제 더 맞힌다고 기술의 탐욕을 억제할 수 있는 건 아니다.

유혜진 서울시청소년상담복지센터 소장 | 더스쿠프

홍승주 더스쿠프 기자
hongsam@thescoop.co.kr