“이런 XXX” 정치인 욕설이 가짜라고?…선거 노린 합성물에 꼬리표 단다

[사진 = 연합뉴스]

오픈AI와 구글을 포함한 글로벌 빅테크기업 20개사가 유권자를 기만하는 인공지능(AI) 콘텐츠를 차단하는데 노력하기로 합의했다.

이는 올해 미국을 비롯해 전세계 76개국에서 대선·총선 같은 전국단위 선거가 치러지는 ‘선거의 해’를 맞아 날로 커지는 딥페이크(Deepfake) 부작용을 막아야 한다는 국제여론에 대응한 것이다. 다만 딥페이크 콘텐츠 금지를 명시하질 않아 빅테크 책임감이 여전히 부족하다는 평가도 나온다. 딥페이크는 AI기술을 활용해 사진이나 비디오에서 사람들 얼굴이나 목소리를 조작하는 기술을 말한다.

빅테크 기업 20개사는 지난 16일(현지시각) 독일 뮌헨안보회의에 참석해 딥페이크 부작용을 차단하는 것을 주요 내용으로 하는 ‘AI의 기만적 사용에 대처하기 위한 기술 협약’을 발표했다. 이들은 △유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표(label)를 붙이고 △모범 사례를 공유하며 △위법한 콘텐츠가 기승을 부릴 경우 신속하고 균형적으로 대응하기로 했다. 서명에는 오픈AI, 구글, 메타, 마이크로소프트(MS), 틱톡, 아마존, 어도비, IBM, 엑스(X), 스냅, 엔스로픽 등이 참여했다.

브래드 스미스 MS 부회장은 “AI가 선거 속임수를 만들지는 않았지만 우리는 AI가 속임수를 퍼뜨리는 걸 돕지 않도록 해야 한다”고 강조했다. 다만 이들은 기대를 모았던 딥페이크 콘텐츠 금지 또는 삭제는 하기로 하지는 않았다. 이에대해 AP통신은 “합의한 내용이 모호하다”면서 “더 강력한 조치를 원하는 감시자들에게는 실망스러울 수 있다”고 평가했다.

오는 4월10일 치러질 한국의 22대 총선을 앞두고, 빅테크 기업들이 한국에서는 어떤 구체적인 조치를 내놓을지 주목된다.