딥브레인AI, 딥페이크 찾는 자동 탐지 솔루션 공개

인물 정보 입력하면 실시간 자동 탐지
유튜브, 틱톡 등 다양한 사이트 포함

국내 스타트업 딥브레인AI가 국내외 최초로 온라인에 돌아다니는 딥페이크 영상을 인공지능(AI)이 실시간 자동으로 탐지하고 진위를 파악해주는 서비스를 출시했다.

딥브레인AI는 5일 서울 강남구 삼성동 코엑스에서 ‘생성형 AI 포럼 2024’를 개최하고 직접 개발한 ‘딥페이크 자동 탐지 서비스형소프트웨어(SaaS) 솔루션’을 최초로 공개했다.

기존 탐지 솔루션과 가장 큰 차이점은 플랫폼에서 자동으로 영상을 걸러낼 수 있다는 점이다. 찾고자 하는 인물의 특징, 키워드 등 정보를 입력하면 특정 사이트에 올라온 모든 영상, 음성, 이미지 콘텐츠를 자동으로 찾아낸다. 현재 유튜브와 틱톡, 엑스, 레딧, 텔레그램, 성인물 딥페이크 사이트 등 다양한 사이트를 탐지할 수 있다. 불법 성인 영상물의 경우 2차 피해를 방지하고자 노출 부분을 블러 처리하는 기능을 포함해 윤리적인 부분도 강화했다.

이날 행사에는 자동탐지 기능을 직접 체험해볼 수 있는 부스가 마련됐다. 자동탐지 솔루션에 ‘트럼프’라는 키워드를 입력하자 도널드 트럼프 전 미국 대통령이 자신의 소셜네트워크서비스(SNS)에 올렸던 영상을 찾아 ‘가짜’라고 판별했다. 탐지 화면에는 해당 콘텐츠 출처 링크도 포함돼 실제 유포 내용을 곧바로 확인할 수 있었다. 각 사이트에 들어가서 수동으로 키워드를 검색해 콘텐츠별로 진위를 파악해야 했던 다른 서비스와는 차이를 보였다. 또 통계 리포트 기능도 포함돼 있어서 주·월간 단위로 몇 건 영상이 유포됐는지, 어떤 채널에서 몇 건의 영상이 돌아다니고 있는지 확인할 수 있었다.

이번 솔루션에는 ‘영상-평가 분석’이라는 기능도 새롭게 추가됐다. 탐지 솔루션을 통해서 수집한 인물과 관련한 동영상이나 댓글 분석을 통해서 긍정-부정 여론을 5단계로 평가 점수를 보여준다. 엔터테인먼트, 정치 분야에서 적극 활용할 수 있다고 딥브레인AI 측은 설명했다.

장세영 딥브레인AI 대표는 “지금까지는 정부기관 등에서 탐지 기능을 적극 활용하고 있다”며 “이번 SaaS 솔루션을 통해서 딥페이크 탐지 기술을 필요로 하는 엔터테인먼트 회사나 플랫폼 기업들과도 협력을 강화해나갈 예정”이라고 말했다.

남혜정 기자 namduck2@donga.com