[머니S & VIEW]딥페이크 사태, 우리 사회 전체가 나서야 한다

안타까운 일이지만 최근 우리사회를 떠들썩하게 만드는 딥페이크 범죄는 이미 예견된 일이었다. 메신저 앱 '텔레그램'을 이용한 대규모 디지털 성범죄 사건인 'n번방 사건'이 인공지능을 등에 업고 소위 '업버전'으로 다시 돌아온 느낌이다. 두 사건 모두 디지털 플랫폼(텔레그램 등)을 통해 이루어졌으며, 플랫폼의 익명성과 빠른 정보 전파 능력을 악용한 성범죄라는 공통점이 있다. 또한 두 사건 모두 피해자의 개인정보를 이용하여 협박하거나 성착취물을 유포하는 방식이 사용되었다. 그리고 n번방 사건과 딥페이크 범죄 모두 디지털 기술에 더 쉽게 노출되고, 이를 악용한 범죄에 취약함을 보여주는 미성년자가 주요 피해자들이라는 점도 많이 닮아있다.

문제는 이러한 디지털 성범죄가 앞으로 더 폭증하고 그 피해의 범위도 매우 확장적일 수 있다는데 있다. 경찰청 발표에 따르면, 딥페이크 범죄자 중 75.8%가 청소년이며, 피해자도 절반 이상이 청소년이라고 한다. 또한 방송통신심의위원회에 따르면, 올해 1월부터 4월까지 딥페이크 기술을 악용한 '성적 허위 영상물'은 모두 4691건으로 전년 대비 400% 폭증했다고 한다. 이러한 신종 범죄에 대한 근본적인 해법 마련과 사회 전체의 노력이 반드시 필요한 시점이다.

우선 우리 사회가 이런 사건들을 대응하고 관리해나가는 시스템이 제대로 작동되고 있는지를 점검할 필요가 있다. 보통 이런 사건 초기에는 신종 범죄의 속성상 법적 규제나 대응이 충분하게 이루어질 수 없음에 대한 공분과 대응 필요성에 대한 뜨거운 여론이 일게 된다. 그러나 시간이 지나면서 필요한 규제 정비는 탄력을 잃게 되고 다시 제자리에 머물고 있음을 종종 보게 된다. 유럽연합은 올해 5월 세계 최초로 AI(인공지능)를 포괄적으로 규제하는 「AI법(Artificial Intelligence Act)」를 최종 승인했다. 이 법의 목적은 인간 중심적이고 신뢰할 수 있는 AI의 채택을 촉진하는 동시에, 유럽연합 내 AI 시스템의 유해한 영향으로부터 시민들을 보호하고 혁신을 지원하는 데 있다고 밝히고 있다.

반면에 우리는 딥페이크를 악용한 범죄행위 등에 대해서는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률'이나 '형법', '성폭력범죄의처벌 등에 관한 특례법', '공직선거법' 등 다수의 법체계로 분산되어 있다. 개정의 필요성과 범위에 대한 비판도 적지 않다. 여전히 '단순 시청 또는 보유'는 처벌 대상이 아니며, '반포 등을 할 목적'이 처벌 요건으로 명시되어 있지만, 정작 실제 피해사례에서는 '유포의 목적'이 있었음을 입증하기 어렵다면서 불송치한 사례도 있다. 법적 대응의 엄정함은 물론 법제도의 미비 또는 공백과도 같은 구조적 문제도 여전히 심각하다.

그런데 법제도를 손질하고 처벌 수위를 높인다고 이 문제가 해결될 것이라고 쉽게 생각해서는 더더욱 안될 일이다. 무엇보다 AI 기술에 대한 사회적 인식 제고가 매우 중요하다. 딥페이크 범죄는 인공지능 기술이 악용될 경우 얼마나 심각한 피해를 초래할 수 있는지를 보여주는 대표적인 사례로 이러한 AI 기술의 부작용을 최소화하기 위한 사회 구성원 대상의 AI 윤리와 시민성 교육이 리터러시 차원에서 이루어져야 한다. 이는 미래의 AI 기술이 더 복잡해짐에 따라 더욱 중요해질 것이다. 특히 청소년들이 디지털 환경에 쉽게 노출되면서 성범죄에 대한 경각심이 부족한 경우가 많다. 이를 방지하기 위해 성범죄와 디지털 기술 악용에 대한 교육이 강화되어야 하며, 청소년들에게 올바른 디지털 윤리 의식을 심어줄 필요가 있다.

동시에 사업자의 자율규제적인 노력이 반드시 병행되어야 한다. 특히 플랫폼 사업자들이 자율규제 차원에서 딥페이크와 같은 콘텐츠의 신속한 삭제 및 차단 등에 적극 나서야 한다. 사업자들이 스스로 기업의 사회적 책임을 다하는 노력이 함께 하지 않는다면 외부로부터의 타율규제만으로는 문제해결에 한계가 있음을 우리는 인터넷 규제의 역사 속에 이미 보아왔다.

이제는 우리 사회 전체가 나서야 할 때이다. 우리 사회 전체의 적극적인 대처만이 이 문제를 제대로 풀어낼 수 있다.

현대원 서강대학교 메타버스대학원장 /그래픽=김은옥 기자

현대원 서강대학교 메타버스전문대학원장