"딥페이크 잡아낸다"…영상·이미지·음성까지 '조작 확인'

딥브레인AI, 딥페이크 탐지 솔루션 고도화

[서울=뉴시스] 딥브레인AI '딥페이크 탐지 솔루션'. (이미지=딥브레인AI 제공) 2023.08.03. photo@newsis.com

[서울=뉴시스] 배민욱 기자 = 국내 생성형 인공지능(AI) 기업 딥브레인AI는 딥페이크(Deepfake) 탐지 솔루션을 고도화했다고 3일 밝혔다.

조작된 영상 검출은 물론 이미지와 음성까지 탐지 범위가 확대됐다.

딥페이크는 AI를 활용해 특정인의 얼굴과 목소리·행동까지 그대로 재현한 위조 콘텐츠다. 스마트폰 앱으로 딥페이크 영상을 쉽게 만들 수 있는 등 기술 장벽이 낮아졌다.

딥브레인AI는 ▲종합 탐지 모델 ▲특정 인물 탐지 모델 ▲음성 탐지 모델 등 딥페이크 탐지 솔루션을 선보였다.

종합 탐지 모델은 합성곱 신경망(CNN)과 구글의 자연어 처리 모델인 트랜스포머를 기반으로 설계됐다. 세상에 존재하지 않는 가상 인간의 얼굴을 제작하는 페이스 제너레이션과 원하는 얼굴로 교체하는 페이스 스왑, 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다.

또 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별하는 '특정 인물 탐지 모델'과 TTS(Text To Speech)나 보코더 등 음성 합성 여부를 탐지하는 '음성 탐지 모델'을 제공한다. 특히 음성 탐지 모델은 음성의 주파수와 시간 등을 각각 고려해 분석 후 모델 학습을 진행하는 음성 판별 방식을 사용한다. 국내 통신사와 협력해 범죄 수법이 날로 진화하고 있는 보이스피싱 예방에 활용할 계획이다.

딥페이크 탐지 솔루션은 한국어·영어·중국어·일본어가 우선 지원된다. 현재 국내 일부 관공서에서 활용되고 있다. 일반 소비자도 쉽고 간편하게 사용 가능한 딥페이크 SaaS(서비스형 소프트웨어) 서비스도 연내 자사 홈페이지에 공개될 예정이다.

딥브레인AI 장세영 대표는 "인공지능 기술이 고도화되면서 이를 악용해 범죄를 저지르는 사례가 전 세계적으로 증가하고 있어 대비가 필요하다"며 "딥페이크 콘텐츠 탐지 솔루션을 관공서와 기업, 개인 등 맞춤 지원해 AI 기술의 악용으로 인한 피해 예방에 앞장서겠다"고 말했다.

☞공감언론 뉴시스 mkbae@newsis.com