“경고: 프로필이 캡쳐됨”...딥페이크 방지 기술, 플랫폼이 나서야

올해 초 알려진 ‘서울대 딥페이크(불법합성물)’ 사건과 최근 드러난 지역별·학교별 ‘겹지방’ 등 텔레그램에서 주로 이뤄지는 디지털성범죄에는 공통점이 있다. 피해자들이 일상을 공유하려 카카오톡 프로필과 인스타그램 등 플랫폼에 올린 사진이 무단 도용돼 범죄의 ‘재료’로 쓰였다는 점이다.

여성계와 정보기술(IT) 업계에선 이용자들이 주고받는 콘텐츠에 기반해 성장한 카카오톡, 인스타그램 등 플랫폼 업체들이 이용자 개인정보가 범죄에 악용되는 걸 막을 적극적인 조처를 해야 한다는 목소리가 높다. 범죄 행위가 벌어질 수 있는 길목마다 기술적 안전장치를 둬서, 이용자가 위험에 노출될 가능성을 최대한 줄여야 한다는 요구다.

우선 프로필 사진 등을 누구에게 노출할지 이용자가 직접 정하도록 할 수 있다. 세계 최대 구인·구직 및 경력관리 사회관계망서비스(SNS) ‘링크트인’은 이용자가 자신의 프로필 사진과 실명, 소속 기업 등 개인정보의 공개 범위를 설정할 수 있도록 했다. 예를 들어 한 다리 건너 아는 ‘2촌’ 또는 두 다리 건너 아는 ‘3촌’ 관계 이내 이용자에게만 프로필 사진 등을 노출하는 설정이 가능하다.

카카오는 카카오톡 이용자들의 지속적인 요구를 받아들여, 전화번호를 저장해도 자동으로 친구 추가가 되지 않도록 하는 기능을 지난해 도입했다. 앞서 2020년에는 상대에 따라 카카오톡 프로필을 다르게 보여주는 ‘멀티 프로필’ 기능을 도입했지만, “멀티 프로필을 노출할 상대를 일일이 선택해야 해 편리하지 않다”는 지적이 있어 왔다.

이용자가 올린 얼굴 사진을 타인이 함부로 가져다 쓰지 못하도록 할 방법도 있다. 텔레그램 내 성착취물 생성 봇(bot·자동 프로그램) 적발·신고 활동을 해 온 테크-페미 활동가 조경숙씨는 캡처(갈무리) 알림 기능을 제안했다. 이용자 프로필 사진을 타인이 갈무리할 경우 이 사실을 사진 주인에게 알림으로 보내고, 사진 주인에게 알림이 갔다는 것을 갈무리한 이에게도 알려 주자는 것이다. 인스타그램이 이용자끼리 주고받는 다이렉트(개인간) 메시지에 이 기능을 시범 도입한 적 있다.

조씨는 “온라인 플랫폼 기업들이 블로그, 카페, 웹툰 등 창작 플랫폼에 올라온 콘텐츠의 저작권을 보호하려 갈무리 방지 기능을 오래전에 도입한 것처럼, 메신저에 갈무리 알림 기능을 도입하는 것도 기술적으로 몹시 어려운 일은 아닐 것”이라고 했다.

강현주 전기전자공학 박사는 이용자가 올리는 콘텐츠에 불법합성물 제작 프로그램을 무력화하는 코드가 자동 삽입되도록 하는 방안을 제시했다. 강 박사는 10일 한국여성단체연합 등이 연 긴급 집담회에서 “최근 일러스트레이터들이 자신의 창작물이 생성형 인공지능 학습에 쓰이는 걸 막으려 데이터에 ‘적대적 공격’ 코드를 심은 사례가 있다”며 “이와 유사한 기술을 불법합성물을 만드는 딥페이크 프로그램을 무력화하는 데에도 적용할 수 있을 것”이라고 말했다. 중국 우한대학의 장윈밍 연구팀은 원본 이미지에 보이지 않는 워터마크(식별표시)를 심어, 딥페이크 프로그램을 공격하는 한편 불법합성물의 유포 경로까지 추적하는 기술을 지난해 이미 선보였다.

불법합성물이 퍼져나가는 단계에 도입해 볼 만한 아이디어도 있다. 법무부 산하 디지털 성범죄 등 전문위원회 팀장을 맡았다가 법무부로부터 원대복귀 인사 통보를 받고 사직한 서지현 전 검사는 이날 집담회에서 ‘범죄 행위·처벌 자동 알림’을 제안했다. 서 전 검사는 “가정폭력 현장에 출동한 경찰이 폭력 행위를 즉시 제지하고 피해자를 가해자로부터 떨어뜨려 놓는 ‘응급조치’를 취하는 것처럼, 디지털성범죄가 벌어지고 있는 텔레그램 대화방 등에 ‘당신들의 행위는 명백한 범죄행위로 처벌받을 수 있다’는 경고 메시지를 자동으로 띄우는 프로그램을 (기업과 수사기관 등이) 충분히 도입할 수 있다”고 설명했다.

이런 기술적 대책도 필요하지만, 여성의 몸을 욕구 충족의 수단으로만 바라보는 남성 중심적 문화를 해소하지 않는다면 소라넷, 엔(n)번방, 서울대 딥페이크 사건, 겹지방 등으로 이어져 온 디지털성범죄 고리를 끊기에는 분명 한계가 있다는 지적도 나온다.

유네스코는 지난해 낸 보고서에서 “기술이 촉진한 성별 기반 폭력은 ‘아주 오래된 학대’(chronic abuse)의 또 다른 형태”라며 “일시적인 피해 예방 도구는 꾸준히 대규모로 이뤄지는 학대 앞에 무력해지기 쉽다”고 짚었다. 그러면서 포털, 사회관계망서비스 등이 비속어나 성적 불쾌감을 유발하는 단어를 걸러내는 필터를 도입하자 악성 이용자들이 철자를 일부러 틀리게 적는 등 우회로를 금세 찾아낸 것을 예로 들었다.

정인선 기자 ren@hani.co.kr