‘이것은 AI가 만든 사진입니다’...딥페이크에 전쟁 선포한 구글·메타

메타는 지난 6일(현지 시각) AI로 생성된 이미지가 페이스북이나 인스타그램 등에 게시되는 경우, 게시물에 이를 표시하는 라벨(꼬리표)를 달기로 했다./메타

구글과 오픈AI 등 20개 빅테크 기업들이 인공지능(AI)을 기반으로 한 딥페이크를 차단하는데 합의했다. 딥페이크가 세계 각국에서 열리는 선거에 영향을 미쳐 혼란을 야기할 수 있다는 우려 때문이다.

AP와 블룸버그 등에 따르면 아마존, 구글, 메타 등 빅테크들은 16일(현지 시각) 개막한 독일 뮌헨안보회의(MSC)에서 이 같은 내용의 합의문을 발표했다. 빅테크들은 유권자에게 영향을 줄 수 있는 딥페이크를 감지해 라벨(꼬리표)를 붙이는 등 조치를 취하는 한편, 효과적으로 딥페이크 등을 막은 모범 사례를 공유해 이러한 콘텐츠 확산에 ‘신속하고 균형적으로’ 대응하기로 합의했다.

닉 클레그 메타 글로벌 담당 사장은 “올해 많은 선거가 예고된 상황에서 사람들이 AI가 만든 콘텐츠에 속는 것을 막기 위해 할 수 있는 일을 하는 게 중요하다”면서 “이 작업은 산업, 정부, 시민 사회 전반에 걸쳐 엄청난 노력이 필요할 것”이라고 했다. 다만 이번 합의문에는 딥페이크 콘텐츠를 금지하거나 삭제해야 한다는 등의 문구는 담기지 않았다. 이 때문에 합의 내용이 모호하고 구속력이 없다는 지적이 제기되기도 했다.

올라프 숄츠 독일 총리가 2월 17일 독일 뮌헨 바이에리셔 호프 호텔에서 열린 제 60회 뮌헨안보회의(MSC)에서 연설하고 있다. /AP 연합뉴스

올해는 미국을 비롯한 76개국에서 대선 및 총선 등이 치러지는 ‘선거의 해’이다. 하지만 생성형 AI의 등장으로 AI를 활용한 콘텐츠가 폭발적으로 증가하면서 딥페이크로 인한 가짜 뉴스가 민주주의를 혼란에 빠트리고 있다는 지적이 제기되고 있다. 실제로 지난 1월에는 미국 뉴햄프셔 주에서 유권자들에게 조 바이든 대통령의 목소리로 예비선거에서 투표하지 말라는 전화가 돌려지기도 했다. AI로 조 바이든 대통령의 목소리를 흉내 낸 가짜 목소리라는 것이 뒤늦게 밝혀졌지만, AI로 인한 딥페이크의 심각성을 알리는 대표적인 사례로 떠올랐다. 이 밖에도 지난해에는 AI로 만든 정치 메시지를 담은 가짜 동영상이 영국, 인도, 수단, 에티오피아 등에서 발견되기도 했다.