[손병채의 센스메이킹] 〈6〉딥페이크와 인간의 의도

손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com

중국이 지난달 10일부터 '딥페이크' 제작을 제한하는 포괄적 규제를 시행했다. 이는 백지시위와 연결된 반체제 여론을 막기 위한 조치의 일환으로, 언론 자유 침해 등을 근거로 권고 수준에 머무르고 있는 유럽연합(EU)이나 미국과 대비되는 실질적 금지 조치라는 점에서 흥미를 끈다.

물론 중국의 이러한 조치는 지난 20년 이상 운영되어 온 만리방화벽으로 불리는 인터넷 검열 시스템을 전제로 하나 투명성 및 정보 공개 준수에 대한 부담은 엄청나기에 내, 외부적 실효성에 대한 의문은 지속적으로 제기될 가능성이 높아 보인다.

딥페이크 관련 기술은 초기부터 합성 콘텐츠의 라벨 부착 필요를 이야기해 왔으나 정작 이를 보장하는 방법이 불분명하다는 한계가 명확했다. 또한 인터넷은 영원하다는 표현에서 드러나듯 제작된 콘텐츠가 퍼질 경우 이를 완전히 지우는 건 극도로 어렵다.

나아가 콘텐츠가 삭제된 이후에도 시청자들의 집단의식은 사라지지 않는다는 점은 백지시위에 영향을 끼친 상하이 봉쇄정책을 비판한 '4월의 목소리' 콘텐츠 사례를 통해서도 확인된 바 있다.

역사적으로 기술이 사회에 스며드는 건 막을 수 없다.

세계 딥페이크 영상의 95%가 음란물이라는 통계, 러시아의 침공 초기 우크라이나 대통령의 가짜 항복 선언 영상, 실어증을 앓는 영화배우 브루스 윌리스의 광고 출연 등은 사회 전체에 영향을 미치는 딥페이크 기술의 위험한 현실적 사례가 분명하다.

하지만, 우리가 정말 경계해야 하는 건 해당 기술의 규제 방식이 아닐 수 있다.

사실을 조작하는 새로운 방법은 항상 존재해 왔으며, 매번 최신 기술에 시선을 두는 건 결과적으로 언제나 지는 게임이 된다. 오히려 우리가 관심을 두어야 하는 건 관련 제작물이 왜 제작되고, 어떻게 퍼지는가, 즉 허위 내러티브 확산을 뒷받침하는 사회적 요인에의 집중이다.

“딥페이크 기술은 도덕적으로 의심되지만 본질적으로 잘못된 것은 아니다.” 윤리학자이자 정치철학자 아드리안 드 라이터는 연구를 통해 '동의한 적 없는 사람에의 표현' '시청자를 고의적으로 속이는 행위' '유해한 의도'가 해당 기술의 결과물을 부도덕하게 만든다는 의견을 낸 바 있다. 이 기술과 분리된 제작자, 즉 사람의 의도야말로 경계해야 할 주체임을 밝힌 것이다.

특히 연예인이나 정치인 등의 사회적 영향력이 상대적으로 큰 대상을 향한 마이크로 타겟팅된 딥페이크 콘텐츠는 제작자 의도의 발현을 규제하는데 어려움이 많을 수밖에 없다.

그럼 앞으로의 관련 대안은 어떻게 만들어 나가야 할까.

첫째 우리가 카메라와 인식 시스템 세계 속의 존재임을 인지하고 인정해야 한다. 이 글을 쓰는 필자도 이 글을 읽는 당신도 카메라가 장착된 모바일폰과 노트북 앞에서 일상의 대부분을 보낸다. 시스템 관점에서 인간의 행동은 알고리즘을 위한 물질이다. 아이를 잘 돌보고 있는지 확인하는 카메라는 부모와 보모의 이상적 관계를 위해 존재하지만 인간이 인간을 제약하려는 의도를 학습하고 수행하는 비인간적 주체이기도 하다. 우리가 이 새로운 주체들과 함께 생활하고 있다는 의식은 딥페이크와 연결된 비도덕적 의도를 관리 및 대응하는 데 도움이 될 수 있다.

둘째 커뮤니티 단위의 관련 교육이 생성되고 확산돼야 한다. 우리는 디지털 체계 내의 약한 연결 안에서 소속감을 찾으려는 경향이 있다.

이는 팬데믹으로 강화된 사회단체로부터의 소속감의 부재로 취향이나 관심사 등으로 보이지 않는 누군가와 연결되어 있다고 믿고 싶어 하는 현상이다. 틱톡 챌린지에의 열광, 정확하기를 기대하지 않는 나무위키에의 잦은 접속, 인스타그램의 지속적인 스토리 확인, 관심이 적은 단체 채팅방의 방치 등이 그 예다.

딥페이크는 이러한 약한 연결로부터의 소속감을 자극하는 경향이 많지만 해당 주체를 향한 깊은 관심이 없다는 점에서 관련 콘텐츠의 영향력 해체 또한 상대적으로 용이하다. 정치인의 신용을 떨어뜨리기 위한 딥페이크 콘텐츠의 진위 확인이 개인으로서는 어려웠지만 정당 단위에서 거짓을 구분해 낸 한 프로젝트 결과는 커뮤니티 관점·가치·관행을 바탕으로 한 교육 프로그램이 효과적인 대안이 될 수 있음을 증명한 바 있다. 이는 딥페이크 콘텐츠가 공유되는 플랫폼 서비스 기업이 유저 대상의 고유한 커뮤니티 대응책을 세우고 제안함으로써 전략적 기회를 만들어 낼 수도 있음을 의미한다.

손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com