한국인 얼굴 데이터 기반...10분 내 딥페이크 여부 판별

딥브레인AI, 경찰청과 함께 딥페이크 탐지 솔루션 개발

딥브레인AI가 경찰청과 협력해 개발한 딥페이크 탐지 솔루션 시연 영상. <사진 제공=딥브레인AI>

생성형 인공지능(AI) 전문 기업 딥브레인AI는 경찰청과 협력해 딥페이크 범죄에 효과적으로 대응할 수 있는 맞춤형 딥페이크 탐지 솔루션을 개발했다고 15일 밝혔다. 경찰청은 이를 활용해 총선 기간 선거범죄는 물론, 피싱 범죄와 성 착취물 범죄를 비롯한 딥페이크 기반 범죄에 적극 대처할 방침이다.

딥브레인AI의 딥페이크 탐지 솔루션은 딥페이크로 의심되는 영상을 시스템에 업로드하고 탐지모델, 탐지구간, 탐지인물 등을 설정하면 진위 여부를 즉각 판별한다. 이미지와 영상은 픽셀 단위로 분석하며, 음성은 주파수와 시간, 노이즈 같은 다양한 조작 요소를 종합적으로 고려해 판단한다. 통상 5~10분 정도 시간이 소요되며, 딥페이크로 판명될 경우 ‘가짜(Fake)’로 표시된다. 판별이 완료되면 변조율과 합성유형 등 범죄에 사용된 기술정보도 함께 제공한다.

이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계돼 뛰어난 완성도를 자랑한다. 서양인 외모 위주 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만건, 아시아 계열 인종 데이터 13만건을 포함해 총 520만건의 데이터 학습을 더해 탐지율을 높였다.

딥브레인AI는 경찰청과의 협력을 계기로 다양한 분야 기업 및 기관과 딥페이크 탐지 솔루션 구축 방안을 논의할 예정이다. 장세영 딥브레인AI 대표는 “신종 딥페이크 범죄에 효과적으로 대응하기 위해 경찰청과 협력해 딥페이크 탐지 솔루션을 꾸준히 고도화할 것”이라며 “누구나 쉽고 간편하게 허위 사실을 판단할 수 있도록 도와 딥페이크 범죄를 무력화시키는 게 궁극적인 목표”라고 말했다.