"경찰이 저를 다시 죽인 셈" 딥페이크 피해자였던 그녀, AI에 맞서다

<앵커>

AI 기술 발전의 여러 부작용들 앞서 짚어봤었는데, 오늘(1일)은 마지막 순서로 이 문제를 어떻게 대처해야 할지 고민해 보겠습니다. 빠르게 발전한 AI가 범죄에 쓰이며 수많은 피해자들을 낳고 있지만, 이걸 누가, 어떻게 책임져야 하는가에 대한 논의는 기술 발전의 속도를 따라오지 못하고 있는데요.

AI 산업을 주도하는 미국에서는 어떻게 하고 있는지 홍영재 기자가 취재했습니다.

<기자>

브리즈 리우 씨는 대학생이던 4년 전, 자신도 모르는 사이 딥페이크 포르노 동영상의 희생자가 됐다는 걸 알았습니다.

절망 속에 경찰에 신고했지만,

[브리즈 리우/딥페이크 피해자 : 경찰이 제게 매춘을 한 적이 있느냐고 물었어요. 딥페이크 제작자가 저의 일부를 죽이고, 경찰이 다시 저를 죽인 셈이죠.]

리우 씨 얼굴을 합성한 800여 개의 영상을 게재한 사이트들이 마이크로소프트의 서버를 이용하고 있다는 걸 알고 삭제 요청도 했습니다.

[브리즈 리우/딥페이크 피해자 : (마이크로소프트는) 오랫동안 삭제 요청을 거부했어요. (영상 속 인물이) 저인지 확신할 수 없다고 말할 때도 있었고, 삭제할 기술이 없다고 말하기도 했어요.]

그로부터 2년 뒤 스타트업을 창업한 그는 딥페이크를 찾아내 플랫폼에 삭제 요청을 하는 서비스를 개발하고 있습니다.

그만의 방식으로 AI 범죄에 맞선 겁니다.

그리고 지난해 10월 바이든 대통령 옆에 섰습니다.

AI 안전 기준을 세우고 시민 권리를 보호하기 위한 행정명령에 서명하는 자리였습니다.

[조 바이든/미국 대통령 : 딥페이크 기술은 AI로 생성된 오디오와 비디오를 사용해 평판을 훼손하고, 가짜 뉴스를 퍼트리며 사기를 저지르고 있습니다.]

지금 보고 계신 이 문구들, 동의받지 않은 딥페이크 합성물을 만들어주는 웹사이트들의 홍보 문구입니다.

샌프란시스코시 조사에 따르면 이런 딥페이크 웹사이트 16곳 방문 횟수는 올해 상반기에만 2억 건이 넘었습니다.

두 달 전 샌프란시스코시 당국은 이들 16개 딥페이크 사이트를 상대로 소송을 제기했습니다.

[데이비드 치우/샌프란시스코 시 변호사 : 저희가 소송을 제기한 이유는 피해자들이 거의 아무런 대응 수단을 갖지 못하고 있다는 사실을 깨달았기 때문이죠. 우리(당국)는 법원 명령을 통해 인터넷 서비스 제공업체 등의 정보를 제출받을 수 있는 조사 권한을 가지고 있습니다.]

미국 정부 기관이 딥페이크 업체를 상대로 제기한 첫 소송입니다.

국경 없는 딥페이크 범죄를 막기 위해 국제 공조도 시도할 계획입니다.

[데이비드 치우/샌프란시스코 시 변호사 : 저는 우리의 소송과 다른 법 집행 기관들, 그리고 세계 각지에서 제정되고 있는 법들이 이 문제를 해결할 수 있기를 바랍니다.]

미국 정부 기관들은 더 이상 AI 오용에 대한 대처를 시민 개인에게 떠넘기지 않으려는 듯 보입니다.

남은 건 AI를 개발하고 서비스하며 막대한 돈을 벌고 있는 빅테크들의 윤리와 책임입니다.

[브리즈 리우/딥페이크 피해자 : 저는 빅테크들이 올바른 일을 할 수 있는 기술을 가지고 있다고 믿습니다. 문제는 그들이 그걸 실행하려는 의지가 있느냐는 거죠. 그렇지 않나요?]

(영상취재 : 하 륭, 영상편집 : 원형희, 디자인 : 최재영)

※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다.

홍영재 기자 yj@sbs.co.kr