딥페이크 몸살에… 공동차단 나선 해외 빅테크

[머니S리포트-선거, 딥페이크와의 전쟁]②해외서도 딥페이크 피해 사례 급증

[편집자주] 인공지능(AI)이 만들어낸 가짜 얼굴과 목소리가 국내외 선거판을 흔든다. 전 세계 곳곳에서 딥페이크(딥러닝+페이크) 기반의 가짜 뉴스가 선거에 영향을 미칠 것이라는 경고가 잇달아 나온다. 허위 정보 유포에 촉각을 세우고 있는 정부와 기업은 딥페이크 악용 콘텐츠 차단에 나섰다.

딥페이크 콘텐츠를 활용한 선거 왜곡 시도가 국내외에서 잇따르고 있다. 마이크로소프트 생성형 AI '빙'으로 제작된 이미지. /사진=MS빙

━

▶글 쓰는 순서
①총선 파고 든 '딥페이크'… AI 가짜뉴스 기승
②딥페이크 몸살에… 공동차단 나선 해외 빅테크
③총선 허위 정보… 효과적으로 대응하려면

━

올해는 한국 총선과 미국 대선 등 전세계 약 70개국에서 선거를 치른다. 인공지능(AI) 기술이 선거 기간 가짜뉴스를 만들고 유포하는데 악용될까 전전긍긍하는 건 비단 국내만의 문제가 아니다. 해외에서도 딥페이크 콘텐츠나 가짜뉴스를 활용한 선거 왜곡 시도가 잇따르면서 빅테크 기업들은 공동 차단에 적극 나서고 있다.

━

해외서도 딥페이크로 '곯머리'

━

해외에서도 조 바이든 미국 대통령, 기시다 후미오 일본 총리 등 정치인들이 딥페이크 피해를 입었다. /사진=로이터

미국, 튀르키예 등 선거가 있는 나라 곳곳에서도 딥페이크가 골칫거리로 지적되고 있다. 딥페이크 콘텐츠는 포털과 사회관계망서비스(SNS)를 통해 빠르게 퍼지며 파급력을 키우지만 아직 악용 사례에 대한 강력한 처벌 사례는 드물다.

지난 1월 미국 뉴햄프셔주에서 대선후보 뽑는 예비 경선을 앞두고 해당 지역 유권자들은 조 바이든 대통령이 투표 거부를 독려하는 내용의 전화를 받았다. 해당 전화는 딥페이크가 만들어낸 로보콜(녹음된 음성이 재생되는 자동 전화)이었다. CNN에 따르면 해당 음성은 최대 2만5000명에게 유포됐으며 백악관은 "그 전화는 가짜"라는 해명까지 내놓아야 했다.

튀르키예에서 유포된 영상은 딥페이크가 선거에 상당한 영향을 미칠 수 있음을 증명했다. 지난해 5월 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 영상이 확산했다. 조작된 영상이란 것이 밝혀졌지만 선거는 끝난 뒤였다. 해당 후보는 대선에서 패배했다.

일본에서는 기시다 후미오 총리의 활동 모습을 조작·왜곡한 딥페이크 영상 및 사진이 확산된 적이 있다. 지난해 사회관계망서비스(SNS) 엑스(전 트위터)에는 기시다 총리가 포르노물 대사를 읊는 등 성적인 단어를 사용하는 30초짜리 영상이 유통됐다. 니혼테레비 방송 로고가 붙은 영상은 게재 하루 만에 조회수 200만회 이상을 기록했다.

━

빅테크 공동대응에도 실효성 '글쎄'

━

해외 빅테크 기업들은 딥페이크 공동 차단 방안에 합의하고 AI 창작물에 워터마크를 부착하는 등 대응에 나서고 있다. 오픈AI 로고. /사진=로이터

딥페이크 악용 사례가 늘자 해외에선 관련 기업들이 대응에 나섰고 정치권은 법안 마련을 서두르고 있다.

미국은 지난해 10월 바이든 행정부 주도로 딥페이크 영상, 사진, 음향에 의무적으로 워터마크를 부착하는 행정명령을 시행했다. 워터마크 표시를 지우는 행위에 대해서 처벌할 수 있는 조항도 만들었다.

유럽연합(EU)은 지난해 세계 최초로 AI 콘텐츠에 워터마크 부탁을 의무화했다. 지난 2월2일에는 유럽의회 담당위원회 표결을 거쳐 AI 규제법 최종 타협안을 승인했다. 오는 3월 본회의 에서 최종 통과할 전망이다. 광범위한 산업 분야에서 사용되는 AI 기술에 대한 포괄적인 규제 표준을 설정하는 것을 목표로 하며 본격적인 시행은 2026년 이후로 전망된다.

해외 빅테크 기업들도 공동 대응에 나서고 있다. 오픈AI, 구글, 메타, 틱톡, 마이크로소프트(MS), 엑스(X) 등 20개 빅테크 기업은 최근 독일 뮌헨안보회의(MSC)에서 AI기반 허위 정보와 딥페이크 차단 방안에 합의했다. 이들은 유권자가 속을 위험이 있는 딥페이크 콘텐츠를 감지해 꼬리표(라벨)를 붙이는 등 자발적인 조치를 취할 계획이다. 효과적 차단 기술 사례를 공유하고 문제 발생시 신속하게 대응키로 했다.

오픈AI는 이미지 생성 AI 달리, 소라가 만든 이미지에 콘텐트 출처 및 진위 확인을 위한 연합(C2PA) 워터마크를 부착한다. 구글 딥마인드는 지난해 워터마크 기술 신스ID를 적용했다. 페이스북·인스타그램·스레드를 운영하는 메타는 자체 AI 도구인 메타 AI를 활용해 만든 이미지에 '이매진드 위드 AI'라는 라벨을 붙여왔다.

해외 기업들의 노력에도 불구, 실효성에 의문을 표하는 목소리도 나온다. 합의문에 딥페이크 콘텐츠를 금지하거나 삭제해야 한다는 내용이 포함되지 않으면서 모호하고 구속력이 없다는 지적이 제기됐다.

이재현 기자 jhyunee@mt.co.kr