잉카엔트웍스, 딥페이크 범죄 “포렌식 워터마킹·불법 유출 추적 기술 활용해야”

사진제공=잉카엔트웍스

콘텐츠 보안 기업 잉카엔트웍스(대표 안성민)는 최근 사회적으로 큰 문제가 되고 있는 딥페이크 범죄에 대응하는 기술적 대안을 제시했다고 밝혔다.

인공지능(AI) 기술의 발전으로 인해 사람의 얼굴을 음란물에 합성하는 딥페이크 범죄가 급증하고 있다. 이러한 범죄는 여자 연예인뿐만 아니라 일반인까지 대상으로 하여, 불법적으로 제작 및 배포된 딥페이크 음란 영상물이 사회적 불안을 증폭시키고 있다.


이에 잉카엔트웍스는 딥페이크 범죄를 방지하고 피해자를 보호하기 위한 솔루션으로 포렌식 워터마킹과 Anti Piracy(콘텐츠 유출 추적 기술)를 제안했다. 이 기술은 디지털 콘텐츠에 삽입된 워터마크를 통해 불법 유출자를 추적하고, 콘텐츠 불법 유통 경로를 식별하는 데 사용된다.

포렌식 워터마킹은 디지털 콘텐츠에 사람의 눈에 보이지 않는 정보가 포함된 비가시성 워터마크를 삽입하여 불법 복제나 유출 시 그 출처를 추적할 수 있는 기술이다. 특히, OTT 등 VOD 플랫폼 및 SNS에서 악의적인 사용자가 콘텐츠를 다운로드하거나 배포할 때, 워터마크에 삽입된 정보를 통해 유출자를 추적할 수 있다. 이러한 기술을 통해 딥페이크 영상의 불법 제작과 배포를 사전에 방지할 수 있다.

딥페이크 제작자의 워크플로우 및 워터마킹 기술 적용 가능 지점 설명

잉카엔트웍스는 딥페이크 제작자가 SNS, VOD 플랫폼에서 원본 영상을 획득한 후, 딥페이크 앱을 이용해 불법적으로 변형된 영상물을 제작하고 메신저를 통해 배포하는 과정을 분석했다. 이 과정에서 총 5개 지점에서 포렌식 워터마킹 기술을 적용할 수 있다. 영상이 업로드 및 다운로드되는 지점과 최종적으로 딥페이크 영상물이 공유되는 메신저 플랫폼에서 워터마크를 활용해 유출자뿐만 아니라 콘텐츠를 재배포하는 자까지 추적할 수 있다.

워터마킹 기술 적용 가능 지점 중 가장 적합한 곳은 딥페이크 앱이다. 영상이 생성될 때 생성자의 정보를 삽입해 악의적 사용자에 대한 추적이 용이하여 딥페이크 범죄 대응이 가능하다. 하지만 딥페이크 영상물 제작 시 필수로 가시성 워터마크를 삽입해야 한다는 법안은 국회에 계류되어 있으며, 시각적으로 보이는 워터마크는 기술적인 한계가 있다.

현시점에서는 VOD 플랫폼에 워터마킹 기술이 적용된 경우, 딥페이크 범죄에 가장 효과적으로 대응할 수 있다. 특히 OTT 등에서는 콘텐츠 불법 복제에 대응하기 위해 A/B 기반 워터마킹을 도입하고 있다. 이 기술은 영상의 위변조 공격에 강인하고, 유출자를 정확히 특정할 수 있다. 따라서 재인코딩, 크롭, 필터링 등 다양한 변형 공격에도 워터마크와 삽입된 정보가 유지되어 유출자를 추적하는 데 효과적이다.

잉카엔트웍스의 포렌식 워터마킹 및 Anti Piracy 기술은 콘텐츠 보안 솔루션 ‘팰리컨(PallyCon)’으로 제공되고 있다. 특히 팰리컨의 워터마킹 기술은 일부 딥페이크 알고리즘에서 강인성을 확보하고 있다. 이러한 기술을 통해 전 세계의 불법 콘텐츠 유출을 감시하고 실시간으로 삭제 조치를 취할 수 있다.

팰리컨은 클라우드 기반 SaaS(Software as a Service)로 제공하고 있어 복잡한 개발 과정 없이 간단한 연동만으로도 빠르게 보안을 적용할 수 있다. 현재 네이버, 티빙, CJ E&M 등 150개 이상의 기업에서 도입해 프리미엄 콘텐츠를 보호하고 있다.

한편 잉카엔트웍스는 앞으로도 딥페이크를 포함한 다양한 디지털 콘텐츠 범죄에 대응하기 위한 기술 개발과 솔루션 혁신에 지속적으로 힘쓸 계획이다.


최용석 동아닷컴 기자 duck8@donga.com