글로벌 빅테크, 유권자 속이는 ‘AI 페이크’ 공동 대응

온라인에서 퍼져나가고 있는 인공지능(AI) 사기(페이크) 콘텐츠 사례. 트럼프 전 미국 대통령이 경찰에 잡혀가는 듯한 모습을 인공지능으로 생성한 이미지다. 온라인 갈무리

마이크로소프트(MS)·구글·오픈에이아이·아마존 등 인공지능(AI) 분야 주요 글로벌 빅테크 기업들이 선거에서 유권자를 속이는 인공지능 사기(딥페이크) 문제에 공동 대응하기로 했다.

19일 블룸버그 등 주요 외신과 마이크로소프트 등 글로벌 빅테크 기업들의 발표를 종합하면, 지난 16일(현지시간) 독일 뮌헨안보회의(MSC)에서 20개 글로벌 빅테크 기업들이 공동으로 인공지능 기술을 악용해 선거에 영향을 끼치는 행위에 공동 대응하기로 합의했다고 발표했다. 11월 미국 대통령 선거 등 올해에만도 40여개국에서 40억명 이상이 투표에 나서는 상황인 가운데, 인공지능 기술을 활용해 조작한 영상·이미지·뉴스 등이 사회적으로 논란을 빚고 있어서다.

이번 합의에 동참한 빅테크 기업은 엠에스, 오픈에이아이, 구글, 메타, 아마존, 아이비엠(IBM), 틱톡, 어도비, 엑스(X·옛 트위터), 에이알엠(ARM), 스태빌리티에이아이(AI), 맥아피, 트렌드마이크로, 앤트로픽, 인플렉션에이아이 등이다. 합의문의 제목은 ‘2024년 선거에서 인공지능의 기만적 사용을 방지하기 위한 기술 협약’(Tech Accord to Combat Deceptive Use of AI in 2024 Elections)이다.

엠에스가 블로그를 통해 밝힌 세부 협약 내용을 보면, 선거에 영향을 미치는 인공지능 사기 콘텐츠를 막기 위한 기술 개발, 인공지능 사기 콘텐츠와 관련하여 발생할 수 있는 위험 평가 모델 수립, 플랫폼에서 페이크 콘텐츠 탐지 노력, 플랫폼에서 감지된 페이크 콘텐츠 해결 노력, 회사가 문제를 어떻게 해결하는지 대중에게 투명하게 공개, 다양한 글로벌 시민사회단체·학계와 협력 등 8가지 약속이 담겼다.

빅테크 기업들은 협약에 따라 플랫폼에 올려지는 인공지능 이용 사기 콘텐츠를 탐지해 꼬리표(라벨)를 붙이는 시스템을 구축하기로 했다. 또 모범 대응 사례를 서로 공유하고, 특정 사기 콘텐츠가 확산할 때마다 공동으로 대응한다. 크리스토퍼 호이스겐 뮌헨안보회의 의장은 “기술 기업이 인공지능에서 발생하는 위협을 통제하고 민주적 이익을 위해 인공지능을 사용할 수 있도록 뮌헨안보회의가 플랫폼을 제공하게 돼 자랑스럽다”고 밝혔다

임지선 기자 sun21@hani.co.kr