구글·메타는 ‘딥페이크와 전쟁’... 네이버·카카오는 “신고하면 조치” 무대책

정부보다 먼저 기업들이 나서
구글·아마존 등 공동 대응 합의
가짜 뉴스 찾아 꼬리표 붙이고 방지 기술 공유

/조선DB

구글과 오픈AI 등 글로벌 빅테크 기업 20곳이 인공지능(AI)을 기반으로 한 허위 정보와 콘텐츠 차단에 함께 나서기로 했다. 올해 세계 각국에서 열리는 선거에서 AI로 만든 딥페이크(가짜 동영상·목소리)와 가짜 뉴스가 유권자를 기만하고 선거의 공정성을 해치는 일을 막겠다는 취지이다.

아마존, 구글, 메타, 마이크로소프트(MS) 등 빅테크들은 16일(현지 시각) 독일 뮌헨안보회의(MSC)에서 딥페이크 부작용 차단을 골자로 한 합의문을 발표했다. 이번 합의에는 오픈AI, 스태빌리티AI, 일레븐랩스 같은 생성형 AI 개발사와 X(엑스), 스냅 같은 소셜 미디어 업체들도 동참했다. AI 서비스 개발 경쟁을 벌이던 업체들과, 그 결과로 생겨난 딥페이크 콘텐츠의 확산을 방치하면서 피해를 부추긴다는 비판을 받고 있는 업체들이 모두 참여한 것이다.

이들은 딥페이크 콘텐츠에 AI가 생성했다는 라벨(꼬리표)을 붙여 사용자들이 확인할 수 있도록 하고, 효과적으로 딥페이크를 막은 사례를 서로 벤치마킹하는 등 구체적 대안도 내놓았다. 위법한 콘텐츠 확산에는 신속하게 공동 대응하기로 했다. 또 대중이 딥페이크와 AI를 악용한 콘텐츠에 대응할 수 있도록 플랫폼이나 AI 도구에 안내문을 싣고 관련 교육 프로그램도 제공할 방침이다. 다만 이번 협약이 자율적인 합의일 뿐 강제성이 없다는 점은 한계라는 지적이 나온다.

닉 클레그 메타 글로벌 담당 사장은 “올해 많은 선거가 예정된 상황에서 사람들이 AI가 만든 콘텐츠에 속지 않도록 할 수 있는 일을 하는 게 중요하다”면서 “이 작업은 기업, 정부, 시민사회 전반에 걸쳐 엄청난 노력이 필요할 것”이라고 했다.

일러스트=김성규

아마존과 구글, 메타 등 빅테크 기업 20곳이 서명한 ‘2024년 선거 인공지능(AI) 기만적 사용 방지 기술 협약’(AI 선거 협약)은 AI로 생성된 오디오, 비디오, 이미지에 적용한다. 선거 후보나 주요 이해관계자의 외모, 목소리 또는 행동을 위조하는 것은 물론 유권자에게 투표 시기, 장소 및 방법에 대한 잘못된 정보를 제공하는 콘텐츠가 모두 포함된다. 협약에 따르면 기업들은 콘텐츠가 AI로 생성됐다는 것을 식별할 방법을 개발하고, AI로 만든 콘텐츠에는 라벨을 붙인다. 협약 서명 기업들은 딥페이크를 걸러낸 사례를 공유하면서 다른 플랫폼으로 번지는 일도 적극적으로 막기로 했다.

테크 업계 관계자는 “지금까지 빅테크들은 자사 AI 기술을 활용한 콘텐츠를 식별하는 데만 기술력을 집중해 왔다”면서 “여러 기업이 손잡으면 좀 더 효과적으로 유해 콘텐츠 확산을 막을 수 있을 것”이라고 했다. AP통신에 따르면 빅테크들이 자진해서 협약에 나선 것은 미국을 비롯한 대부분 국가에서 AI를 기업 스스로 관리하라는 압박이 높아지고 있기 때문이다. 특히 올해는 한국과 미국 등 76국에서 주요 선거를 치르는 ‘선거의 해’다. 이미 딥페이크 같은 AI 콘텐츠가 민주주의를 혼란에 빠뜨리고 있다는 비판 목소리가 높은 만큼, 기업이 먼저 대응책을 제시하는 모습을 보였다는 분석이 나온다.

지난달 말 세계 최고 인기 팝가수인 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 소셜 미디어에 퍼지며 전 세계에 파문을 일으킨 사건도 영향을 미쳤다. 백악관과 미 의회까지 나서 ‘딥페이크 척결’을 법제화해야 한다고 목소리를 높였고, AI 규제론이 설득력을 얻게 됐다. 순다르 피차이 구글 최고경영자(CEO)가 16일 파이낸셜타임스 기고문을 통해 “우리는 AI의 위험을 해결하며 동시에 엄청난 AI의 잠재력을 최대한 활용하는 방법을 찾아야 한다”고 주장한 것도 이런 여론을 의식했다고 볼 수 있다.

그래픽=김현국

실제로 지난 1월에는 미국 뉴햄프셔주에서 유권자들이 조 바이든 대통령의 목소리로 예비선거에서 투표하지 말라는 전화를 받기도 했다. AI로 만든 가짜 목소리라는 것이 뒤늦게 밝혀졌지만, 딥페이크의 심각성을 알리는 대표적 사례로 떠올랐다. 바이든의 가짜 목소리를 만드는 데 활용한 목소리 생성 AI를 개발한 일레븐랩스도 이번 협약 서명에 동참했다.

다만 이번 협정에 딥페이크 콘텐츠를 금지하거나 문제 콘텐츠를 삭제해야 한다는 등의 명시적 문구가 없는 점은 한계로 꼽힌다. CNBC는 “테크 기업들이 해결책으로 제시한 딥페이크 탐지 요령은 대부분 아직 출시되지도 않았다”며 “정치권과 시민 단체들은 합의 내용이 모호하고 구속력이 없다는 비판을 내놓고 있다”고 했다.

구글, 메타, MS 등이 글로벌 빅테크라는 점을 감안할 때 이번 협약은 두 달도 남지 않은 한국 총선에도 영향을 미칠 것으로 보인다. 하지만 국내에서 이들보다 유권자에 대한 영향력이 높은 한국 포털들은 딥페이크 콘텐츠와 관련해 뚜렷한 대책을 마련하지 않고 있다. 지난해 말 선거관리위원회는 공직선거법에 새 조항을 마련하고 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영 등을 금지했다. 네이버는 “선거관리위원회에서 금지한 콘텐츠에 대한 신고가 들어오면 검색할 때 드러나지 않도록 처리하고, 선관위에서 해당 콘텐츠의 위법 여부를 판단하면 후속 조치를 내리고 있다”고 했다. 카카오톡을 운영하는 카카오는 “카카오톡 대화방에 오르내리는 콘텐츠를 감시할 권한이 없기 때문에 신고에 의존할 수밖에 없는 상황”이라고 했다.