[의정칼럼] AI 딥페이크 시대 ‘가짜 가려내는 공공의 눈’ 필요

▲ 양숙희 강원도의원

인공지능(AI) 기술의 발전은 우리의 삶을 빠르게 바꾸고 있다. 의료·행정·산업 전반에서 AI는 효율과 편의를 높이며 새로운 가능성을 열어주고 있다. 그러나 그 이면에서 실제와 구별하기 어려운 가짜 사진과 영상, 이른바 딥페이크 범죄 역시 폭발적으로 증가하고 있다.

문제는 이 기술이 단순한 장난이나 일탈의 수준을 넘어, 개인의 명예를 파괴하고 성범죄·사기·협박 등 중대 범죄로 확장되며, 재난·사고 상황에서는 허위 정보 확산을 통해 사회 전체를 혼란에 빠뜨리고 있다는 점이다.

가짜 영상 하나가 유포되는 순간, 피해자는 순식간에 가해자로 바뀌고, 진실은 소문을 따라잡지 못한다. 영상이라는 형식이 주는 강력한 신뢰성 때문에, 사실 확인 이전에 여론의 판단은 이미 끝나버린다.

“거짓은 진실이 신발을 신는 동안 이미 세상을 반 바퀴 돈다”는 마크 트웨인의 말은, AI 시대에 더욱 뼈아프게 다가온다. 기술이 고도화될수록 거짓은 더 정교해지고, 그 속도 또한 인간의 대응 능력을 훌쩍 넘어섰다.

현실이 이러할진대 가짜 사진·영상에 대한 대응은 어떠한가. 개별 수사기관의 사후적 분석, 민간 플랫폼의 자체 판단, 그리고 무엇보다 피해자 개인이 ‘가짜임을 스스로 입증해야 하는 구조’에 크게 의존하고 있다.

그 결과는 명확하다. 판별이 지연되는 사이 허위 정보는 이미 사회 전반에 확산되고, 피해는 걷잡을 수 없이 커진다. 재난 상황에서는 가짜 영상이 실제 상황 판단을 흐리게 만들고, 성범죄와 협박 범죄에서는 피해자의 삶을 회복 불가능한 지점까지 몰아간다. 공공안전을 위협하는 국면에서 ‘판별 지연 자체가 곧 2차 피해’가 되는 구조가 고착화되고 있는 것이다. 이는 더 이상 개인의 주의나 플랫폼의 자율에만 맡겨둘 문제가 아니다.

이제 공공의 영역이 나서야 할 때이다. AI로 생성된 사진·영상에 대해 기술적 분석을 수행하고, 위·변조 여부를 전문적으로 판별하며, 수사기관·지자체·피해자에게 신속한 공적 확인을 제공하는 전담 기관, 즉 ‘AI 콘텐츠 진위 판별을 위한 공적 기관’의 설립이 필요하다.

강원도는 이 과제를 선도적으로 추진할 수 있는 충분한 이유와 명분을 갖고 있다. 도 자치경찰위원회와 도경찰청, 도청 정보화정책과의 협업 구조를 바탕으로 신규 정책 과제로 발굴하고, 광역 단위 시범센터를 구축해 운영 경험과 성과를 축적할 수 있다.

나아가 이를 토대로 중앙정부에 국비 지원과 제도화를 건의한다면, 지역에서 시작된 공공 모델이 국가 정책으로 확장되는 선순환을 만들어낼 수 있을 것이다. 이미 여러 정책 영역에서 이러한 경로는 충분히 입증되어 왔다.

가짜 사진과 영상은 더 이상 개인의 문제가 아니다. 이는 공공안전과 사회 신뢰, 재난 대응 체계까지 잠식하는 암적인 요소다. 안전을 범죄 영역에만 한정하는 순간, 주민의 일상적인 불안과 두려움은 정책의 시야에서 사라진다. AI 시대의 안전은 기술과 정보, 그리고 신뢰의 문제이기도 하다.

AI 시대에 공공은 어디까지 책임져야 하는가. 허위 정보로부터 도민을 보호하기 위한 최소한의 공적 장치는 무엇인가. 지금 이 질문에 답하지 않는다면, 우리는 기술의 속도에 끌려다니는 사회로 남게 될 것이다. 이제는 선언을 넘어 실질적인 제도와 조직으로, ‘가짜를 가려내는 공공의 눈’을 세워야 할 때다.

#딥페이크 #피해자 #성범죄 #수사기관 #플랫폼