구글, 생성 AI 콘텐츠 식별 기술 개발…딥페이크 피해 근절

구글이 생성형 인공지능(AI)으로 만들어진 콘텐츠를 식별할 수 있는 기술을 개발해 유튜브 등에 접목한다. 빅테크가 직접 책임감 있는 AI 생태 조성에 적극 나서며 딥페이크 피해 예방 및 근절이 가능할지 업계 내 관심이 모아지고 있다.

구글은 합성된 노래를 식별할 수 있는 새로운 기술을 개발했다고 8일 밝혔다. 이용자는 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있다. 유튜브는 현재 다양한 업계 파트너와 함께 해당 기술을 개선 중이다. 내년 초 파일럿 프로그램을 론칭할 계획이다.

아울러 크리에이터와 배우, 음악가, 운동선수 등 다양한 분야의 사람들이 유튜브에서 자신의 얼굴을 나타낸 AI 생성 콘텐츠를 감지하고 관리할 수 있는 새로운 기술을 개발 중이다. 최근 발표한 AI 생성 초상·음성 침해 콘텐츠 신고 업데이트와 함께 유튜브 내 생성 AI 콘텐츠 활용 방식을 관리하는 강력한 도구가 될 것으로 기대 중이다.

구글 관계자는 “생성형 AI 환경이 진화하며 구글과 유튜브는 책임감 있는 AI 활용을 위해 기술 개발 및 가이드라인 업데이트를 진행 중”이라며 “연말에 더 많은 내용을 공유할 수 있을 예정”이라고 밝혔다.

최근 딥페이크 등을 활용해 생성되는 콘텐츠 피해는 급증하고 있다. 로톡을 운영 중인 로앤컴퍼니에 따르면 플랫폼 내 딥페이크 범죄 관련 키워드 검색량이 최근 크게 증가했다. 6월과 7월, 딥페이크 검색량은 200~300건 수준이었으나 8월에는 3556건으로 크게 늘었다. 이는 전월 대비 10.5배 증가한 수준이다.

학계와 업계는 빅테크가 기술 개발에 나서며 딥페이크 생성과 유통으로 발생하는 피해를 줄일 수 있을 것으로 전망 중이다. 아울러 자율규제 활성화로 실효성 있는 대책이 마련될 수 있을 것이라 내다보고 있다. 기술은 끊임없이 발전해 규제로 잡기에는 한계가 있기 때문이다. 기업의 자정 의지가 중요하다는 판단이다.

업계 관계자는 “법을 통해 기술 발전으로 인한 피해를 막기는 어려워 보이며 외려 엉뚱한 기업만 옥죄는 결과를 초래할 수 있다”며 “AI를 활용하는 이용자의 윤리의식이나 기업의 자정 노력, 기술 경쟁력을 촉진하기 위한 정부 지원이 중요하다”고 강조했다.

이성엽 고려대 교수는 “구글과 같은 빅테크의 딥페이크 탐지 기술 개발은 자율규제의 가능성을 보여주는 좋은 예”라며 “다만 텔레그램 등 행정력이 미치지 않는 유통 플랫폼이 있어 당장 완전한 근절은 어려우니 모든 플랫폼이 자율규제에 대한 의지를 가질 수 있도록 정부와 국회의 노력이 필요하다”고 말했다.

손지혜 기자 jh@etnews.com