딥페이크에 ‘꼬리표’ 붙인다지만… “기준 없고 AI 지우개로 삭제하면 그만”

빅테크 20개 합의문 참여
미·EU도 관련 법안 마련
”라벨 부착 강제성 없어”

글로벌 빅테크 기업들이 인공지능(AI)을 기반으로 한 딥페이크(Deepfake)를 차단하는 방법으로 일종의 ‘꼬리표’를 붙이기로 했다. 그러나 강제성이 없고, AI 기술로 딥페이크 콘텐츠에 붙은 꼬리표를 쉽게 지울 수 있어 실효성에 대한 의문이 제기된다.

일러스트=이은현

20일 AP 등에 따르면 구글, 오픈AI, 메타 등 빅테크 기업들은 지난 16일(현지시각) 개막한 독일 뮌헨안보회의(MSC)에서 딥페이크가 세계 각국 선거에 영향을 미쳐 혼란을 야기할 수 있다는 데 의견을 모으고, 딥페이크를 차단하는 방안을 마련하겠다는 내용의 합의문을 발표했다.

합의문에 따르면 빅테크 기업들은 딥페이크를 감지해 라벨(꼬리표)을 붙이는 등 조치를 취하기로 했다. 또 효과적으로 딥페이크 등을 막은 모범 사례를 공유해 위법한 콘텐츠가 기승을 부릴 경우 신속하고 균형적으로 대응하기로 했다. 합의문에는 구글, 오픈AI, 메타는 물론이고 틱톡, 아마존, 마이크로소프트(MS), 어도비, IBM 등이 참여했다.

닉 클레그 메타 글로벌 담당 사장은 “올해 많은 선거가 예고된 상황에서 사람들이 AI가 만든 콘텐츠에 속는 것을 막기 위해 할 수 있는 일을 하는 게 중요하다”면서 “산업, 정부, 시민 사회 전반에 걸쳐 엄청난 노력이 필요할 것”이라고 말했다. 브래드 스미스 MS 부회장도 “우리는 AI가 속임수를 퍼뜨리는 걸 돕지 않도록 해야 한다”고 했다.

정부 차원의 딥페이크 대책들도 속속 나오고 있다. 미국은 지난해 10월 바이든 행정부 주도로 딥페이크 영상·사진·음향에 의무적으로 워터마크(식별표시)를 부착하는 행정명령을 시행했다. 또 악시오스에 따르면 미국 33개주에서 AI 딥페이크 방지 법안이 발의된 상태다.

유럽연합(EU)도 지난해 세계 최초로 AI 콘텐츠에 워터마크를 의무화하는 법안을 통과시켰다. 이달 초에는 유럽의회 담당위원회 표결을 거쳐 AI 규제법 최종 타협안을 승인했다. EU AI 법안은 금융·제조·유통 등 산업 분야 전반에 쓰이는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것이 목표로, 오는 2026년 본격적으로 시행될 전망이다.

문제는 실효성이다. 워터마크가 효과를 내기 위해서는 텍스트, 이미지, 오디오, 동영상 등 모든 형태의 콘텐츠에 빠짐없이 적용될 수 있어야 하지만, 전 세계적으로 합의된 워터마크 기준이 없다. 일부 국가들이 워터마크 규제를 강화해도 전 세계 이용자와 개발자들이 지킨다는 보장이 없다.

빅테크 기업들의 대책에 대한 반응도 좋지 않다. AP통신은 “합의한 내용이 모호하다”면서 “더 강력한 조치를 원하는 감시자들에게는 실망스러울 수 있다”고 평가했다. CNBC는 “테크 기업들이 제시한 딥페이크 탐지 요령은 대부분 아직 출시되지도 않았다”면서 “정치권과 시민 단체들은 합의 내용이 모호하고 구속력이 없다는 비판을 내놓고 있다”고 전했다.

더구나 워터마크는 변형이나 합성을 해도 제거되지 않아야 실효성이 있는데, 현재는 AI 기술로 쉽게 없앨 수 있다. IT매체 기즈모도는 갤럭시S24에 탑재된 ‘AI 지우개’를 이용해 손쉽게 워터마크를 지울 수 있다고 보도했다. 포천도 “갤럭시S24는 이미지에 AI 효과 적용을 알리는 메타 데이터를 삽입하지만, 이것을 지우는 것 역시 어렵진 않다”고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -