딥페이크 탐지기술 수준은…"법제도 보완 필요"

[앵커]

딥페이크를 범죄에 악용하는 사례가 끊이지 않고 있죠.

딥페이크인지 아닌지 구별하는 기술도 함께 발전하고 있습니다.

이 탐지 기술로 딥페이크 범죄를 뿌리뽑을 수 있을까요.

홍서현 기자가 알아봤습니다.

[기자]

고도의 조작된 딥페이크 영상을 만들어내는 인공지능. 영상이 변조됐는지도 인공지능으로 알아낼 수 있습니다.

<홍서현 기자> "딥페이크 영상의 허점을 어떻게 찾아내는 건지, 직접 살펴보겠습니다."

영상 파일과 분야를 선택하면 분석이 시작됩니다.

100%에 가까울수록 변조가 많이 된 건데, 50% 이상이면 조작된 영상으로 판단합니다.

불법 영상물을 이용한 각종 범죄에 대응하는 데 활용할 수 있습니다.

<이정수 / 딥브레인AI 사업개발그룹 팀장> "가짜뉴스, 딥페이크 영상이 많이 나오고 있는데 이걸 실제적으로 탐지할 수 있는 솔루션은 없다보니까 이런 부분에 많이 활용할 수 있다고 보고 있고요."

해외에서도 딥페이크 탐지 기술 개발이 활발합니다. 글로벌 딥페이크 탐지 시장은 지난해 5억 달러에서 2027년 18억 달러로 성장할 전망입니다.

인텔은 지난해 가짜 동영상을 탐지하는 페이크 캐쳐 기술을 개발했습니다.

인공지능으로는 재현하기 힘든 얼굴의 혈류 변화로 영상의 진위를 가리는데, 정확도는 96%에 달합니다.

구글 딥마인드도 인공지능만 파악할 수 있는 흔적을 남겨 생성된 이미지를 식별하는 신스ID 기술을 개발했습니다.

하지만 탐지 기술만으로 딥페이크를 완전히 없애는 건 어렵다는 지적이 나옵니다.

<정수환 / 숭실대학교 전자정보공학부 교수> "창과 방패 싸움처럼 계속 탐지기술을 또 회피하는 기술을 만들 수가 있어요, 탐지를 못하도록."

기술의 한계를 극복하기 위해 해외 각국에서 규제를 내놓고 있습니다.

내년 대선을 앞둔 미국은 딥페이크 이미지를 이용한 가짜뉴스의 규제를 검토하고 있습니다.

유럽연합 의회도 지난 6월 무분별한 인공지능 사용을 규제하는 법안을 통과시켰습니다.

전문가들은 인공지능의 역기능에 대한 경각심이 필요하다고 강조합니다.

<우사이먼성일 / 성균관대학교 소프트웨어학과 교수> "다른 사람에게 피해를 줄 수 있다는 사고방식과 인식 자체를 많이 심어줄 수 있는 게 중요하고. 그것에 대한 강력한 처벌이나…"

딥페이크 탐지 기술과 더불어 관련 법제도의 보완도 필요하다는 지적입니다.

연합뉴스TV 홍서현입니다. (hsseo@yna.co.kr)

#인공지능 #딥페이크 #범죄 #탐지기술

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23 (끝)

네이버에서 연합뉴스TV를 구독하세요
연합뉴스TV 생방송 만나보기
균형있는 뉴스, 연합뉴스TV 앱 다운받기