[단독] “한국에서는 딱 한 곳”…‘딥페이크 방지’ 글로벌 전선에 합류한 ‘이 기업’

빅테크 공동선언 ‘AI 선거협정’
LG AI연구원 국내 유일 참여
유해 콘텐츠 방지 기술 등
선거교란 가짜뉴스에 공동대응

SNS에서 확산한 도널드 트럼프 전 미국 대통령 체포 장면. 딥페이크 등 AI기술을 활용한 프로그램을 통해 제작된 가짜 사진이다. [사진 출처 = X 캡처]

전 세계 인공지능(AI)산업을 주도하는 기술 기업 20곳이 정보 조작 가능성이 있는 AI 딥페이크(Deepfake)확산 방지를 위해 구축한 글로벌 ‘공동전선’에 한국 기업이 포함된 것으로 확인됐다.

민주주의를 위협하는 딥페이크 부작용을 막아야 한다는 국제 여론이 높아지는 가운데 딥페이크 식별과 탐지, 규제, 교육 등 분야에서 글로벌 표준 마련에 속도가 붙고 있다. 각 기업·국가의 논리와 이해관계가 첨예하게 부딪힐 것으로 예상되는 딥페이크 대응 논의 과정에서 한국의 목소리를 대변하는 창구가 마련됐다는 평가가 나온다.

13일 본지 취재 결과 LG AI연구원은 전 세계 빅테크가 AI 딥페이크에 대응하기 위해 만든 일종의 협의체인 ‘AI 선거협정(AI Elections Accord)’에 국내 기업 중 유일하게 포함된 것으로 파악됐다. 20개 회사가 모인 협의체에는 오픈AI, 마이크로소프트(MS), 구글·메타·엑스(X)·틱톡, 앤트로픽,어도비 등이 참여중이다. AI 기술 개발을 주도하고 생성AI 콘텐츠 유통에 직간접적 책임이 있는 유력 회사들이 사실상 전부 들어간 것이다. 향후 국제적 차원의 딥페이크 대응 기술 개발과 스탠다드 마련에 있어 이들 협의체의 입김이 강하게 작용할 수 있다는 분석이 나온다.

아시아 기업중에는 LG AI연구원과 일본 보안회사 ‘트렌드 마이크로’ 두 곳만이 이름을 올렸다. 협의체 구성은 MS가 주도한 것으로 알려졌다. 해외 빅테크 기업들은 자체 생성형 AI 모델 엑사원을 개발하고 국제 AI 윤리 기구인 ‘유네스코 비즈니스 카운실’에 참여해온 LG의 행보를 높게 평가한 것으로 전해졌다.

빅테크 기업 20개사는 지난달 16일 독일 뮌헨안보회의에 참석해 딥페이크 부작용을 차단하는 것을 주요 내용으로 하는 ‘AI의 기만적 사용에 대처하기 위한 기술 협약’을 발표한 바 있다. 협정과 관련해 구속력도 없다는 점에서 선언 이상의 의미는 없다는 지적이 나온 가운데, 구체적인 후속 조치 마련과 이행에 나설지 주목된다.

빅테크 20개사는 우선 선거 관련 AI 생성 콘텐츠의 위험성을 최소화하기 위한 기술을 개발하는 데 각종 협력에 나설 계획이다. 특히 AI가 생성한 콘텐츠를 식별·판독하는 기술 표준 등에 대한 논의가 활발히 이뤄질 것으로 보인다. 특히 ‘눈에 보이지 않는(비가시적)’ 워터마크를 서비스에 적용하는 방안 등도 안건이 될 수 있다는 게 전문가들의 전언이다. 현재 업계에서는 MS와 어도비가 중심이 된 비가시적 워터마크 ‘C2PA’와 구글 딥마인드가 개발한 ‘SythID’ 등이 표준적인 대안으로 거론된다.

관련 사안에 정통한 AI업계 한 관계자는 “AI 협정 회사들이 (딥페이크 콘텐츠에 대해)강력한 증명방법을 사용하는 것에는 합의에 도달한 것으로 안다”면서 “우선 각 회사별로 라벨링 작업을 하면서 공동으로 새로운 출처기술을 개발하고 국제 표준을 맞춰나가는 것에 앞으로 논의가 집중될 것으로 보인다”고 했다.

국내 기업들도 날로 기승을 부리는 유해 딥페이크 콘텐츠 대응에 속도를 높이고 있다. 네이버와 카카오, SK커뮤니케이션즈는 이달 악의적 선거 딥페이크사용 방지를 위한 공동선언을 채택했다. 선언문에는 △악의적 선거 딥페이크에 대한 탐지와 신속한 조치 △대응 정책 공개 △확산 방지를 위한 다양한 시민단체, 학계 등 외부 전문가와 교류 활성화 △악의적 선거 딥페이크에 대한 대중 인식 제고 등의 내용이 담겼다.

카카오는 이날 자사 AI 이미지 생성 모델 ‘칼로’에 비가시성 워터마크 기술이 도입됐다고 밝혔다.

작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조치다. 카카오는 인물을 기반으로 한 AI 생성물에 대한 공유가 더 활발히 이뤄지는 만큼 카카오톡 채널 ‘칼로 AI 프로필’ 기능에 비가시성 워터마크를 먼저 도입했다고 밝혔다. 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크가 제거되거나 훼손되지 않는다.

카카오는 이미지 생성 웹 기반 전문가 도구인 ‘칼로.ai’에도 이달 내 비가시성 워터마크가 도입할 방침이다.

네이버는 자사 포털에서 ‘유해 딥페이크’ 콘텐츠로 연계될 가능성이 있는 검색어를 입력했을 때 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 일종의 ‘경고 라벨’을 지난달 28일부터 적용하기 시작했다. 네이버는 콘텐츠의 출처 정보를 확인할 수 있는 글로벌 기술 표준(C2PA) 채택 추진과 비가시성 메타 정보 피처 반영 및 생성 콘텐츠를 탐지하는 기술 확보를 중장기적 목표로 연구개발하고 있다. 오찬종 황순민 기자