[임종주의 시선] ‘여의도 대통령’과 ‘불쾌한 골짜기’

임종주 정치에디터

“처음엔 진짜처럼 보였던 손이 사실은 인공 의수(義手)였다는 것을 알게 되면 섬뜩한 느낌을 받게 된다. 악수하면 뼈 없는 그립감과 차가운 감촉에 깜짝 놀랄 수 있다. 손은 기괴하게 느껴지고 친밀감은 사라진다”(『언캐니 밸리』). 일본의 로봇공학자 모리 마사히로는 로봇이 실제 인간과 같은 모습에 가까워질수록 사람들의 반응이 공감에서 불쾌감으로 급전직하할 것이라는 가설을 세웠다. 그의 상상은 짧은 에세이로 1970년 일본의 한 무명 저널에 실렸다.

지난달 21일 중국 베이징에서 열린 세계 로봇 컨퍼런스에서 엑스로보츠가 개발한 휴머노이드 로봇이 윙크하는 모습. 연합뉴스

당시엔 그다지 빛을 못 보던 ‘기괴한 감정의 하강 곡선’은 나중에 ‘언캐니 밸리(불쾌한 골짜기)’로 번역되고, 로봇과 인간의 상호작용에 관한 연구가 활발해지면서 이목을 끌게 됐다. 그 후 반세기, 인공지능(AI) 기반 이미지 합성 기술인 딥페이크는 일순에 모리의 가설을 뒤흔들었다. 진짜와 가짜를 제대로 구별해내지 못하는 현실이 도래하면서다.

2022년 영국 랭커스터대·미국 UC버클리대 연구진이 315명을 대상으로 실험했더니 실제 인물 사진과 합성 사진을 식별해낸 사람은 48.2%로, 홀짝 게임 확률에도 못 미쳤다. 또 다른 223명에겐 어느 쪽이 신뢰감을 주는지 물었더니 가짜 얼굴에 더 높은 점수를 줬다. 가장 믿을만하다고 지목된 3개가 모두 합성 사진이었다. 연구진은 “딥페이크가 음란물·사기 범죄에 악용돼 개인과 사회, 민주주의에 심각한 해악을 끼칠 수 있다”며 안전장치 마련이 시급하다고 진단했다. 그러나 딥페이크의 부작용은 미처 손쓸 틈도 없이 쓰나미처럼 밀려들었다.

미국 팝스타 테일러 스위프트와 그의 팬들이 공화당 대선 후보 도널드 트럼프 전 대통령 지지를 표하는 것처럼 조작된 가짜 사진. 트럼프 전 대통령은 이들 사진을 지난달 18일(현지시간) 자신의 소셜미디어에 올리고 “나는 받아들인다”고 썼다. 사진 소셜트루스 캡처

두 달도 채 남지 않은 미국 대선은 가짜 사진이 급속히 돌면서 혼란을 부추긴다. 공화당 후보인 도널드 트럼프 전 대통령이 지난달 자랑스럽게 소셜미디어에 띄운 팝스타 테일러 스위프트의 트럼프 지지 사진은 조작된 것이었다. 그런가 하면 할리우드 유명 배우 라이언 레이놀즈가 민주당 후보 카멀라 해리스 부통령의 이름이 적힌 티셔츠를 입은 사진이 소셜미디어에 확산했는데 이 역시 가짜임이 드러났다. 비영리 단체인 ‘뉴스 리터러시 프로젝트’는 허위 주장과 가짜 지지가 뒤섞인 AI 생성물이 판을 친다며, 500건이 넘는 조작 사례를 공개했다. 그 중엔 온라인 조회 수가 1000만 건에 이르는 것도 있었다.

텔레그램 같은 소셜미디어에선 여성 사진만 있으면, 불법 합성 이미지를 자동으로 만들어 준다는 딥페이크 채널이 활개 친다. 길거리·대중교통에서 찍힌 여성 사진이 범죄의 대상물로 마구 흘러든다. 22만명, 40만명씩 가입된 채널의 존재도 드러났다. 더 심각한 건 딥페이크 음란물 범죄가 청소년층으로 급속히 확산한다는 점이다. 가해자의 75.8%, 피해자의 60%가 미성년자라는 수사 기관의 최근 통계는 그런 우려를 더 한다.

서울여성회와 서울여성회 페미니스트 대학생 연합동아리원들이 지난달 30일 오후 서울 강남역 10번 출구 인근에서 딥페이크 성범죄 OUT 말하기 대회를 하고 있다. 뉴시스

시민의 불안은 날로 증폭된다. 도심 집회마다 “경찰은 해외 서버라서 못 잡는다는 핑계를 댄다” “딥페이크는 물리적 접촉이 없다는 이유로 처벌 수위가 낮다” “N번방 사건에도 당국의 인식이 변한 건 없다” “입법기관은 반성하고 국가는 책임져야 한다” 등 대응책을 촉구하는 목소리가 봇물 터지듯 한다.

■

「 딥페이크 합성사진·음란물 ‘시끌’
‘AI 육성·규제 기본법’ 지각 시동
여권은 물론 거야도 책임 못 피해
」

현실이 이런데도 우리나라는 ‘AI 기본법’ 조차 마련돼 있지 않다. 산업 육성은 물론 부작용에 대한 규제책도 무방비 상태인 셈이다. 정부를 채근해 입법을 서둘렀어야 할 국회는 손을 놓다시피 했다. AI 기본법은 지난 21대 국회 때 소관 상임위원회인 과학기술정보방송 통신위원회(과방위)에서 공전만 거듭하다가 자동 폐기됐다. 과방위는 22대 국회 들어서도 석달여 동안 20번 넘게 전체회의를 열었지만, 방송 정쟁에만 매몰됐다. 텔레그램 딥페이크가 사회 문제로 떠들썩해지자 부랴부랴 이번 주부터 법안 논의를 시작했다. 여성가족위원회(여가위)도 엊그제서야 긴급 현안질의를 시작으로 대책 마련에 들어갔다. 유럽연합이 이미 AI 법을 승인(5월)하는 등 선진 각국이 입법화에 속도를 내는 것과 대비된다.

지난 5일 서울 여의도 국회 과학기술정보방송통신위원회(과방위)에서 열린 '딥페이크 성범죄영상물 어떻게 근절하 것인가' 토론회 모습. 뉴시스

민생에 대한 책임은 일차적으론 정부·여당에 있겠지만, ‘여의도 대통령’으로 불리는 이재명 민주당 대표 또한 비껴갈 수 없다. 과방위 여야 구성은 7대13, 여가위는 6대11이다. 거대 야당 허락 없이는 한 발짝도 나갈 수 없는 압도적 여소야대 구도다. 지난 2일 지각 개원식을 한 22대 국회는 거야의 능력 유무를 낱낱이 따져보는 무대가 될 터이다. 텔레그램 딥페이크 사태는 그 일면일 뿐이다.

뭐라도 할 줄 알고 표를 몰아줬는데 어느 순간 무능력함을 절감할 때, 유권자의 낭패감은 깊고 깊은 불쾌한 골짜기 그 이상이 될지도 모른다. 딥페이크로 그런 진실은 가릴 수 없기에⋯.

임종주 정치에디터