네카오·SK컴즈 "악의적 선거 딥페이크 사용 방지 공동선언 채택"

AI 생성 콘텐츠 관련 플랫폼 운영 기조 만들어
해외 플랫폼 기업도 총선 기간 '딥페이크'사용 방지'에 적극 동참

성명문 (한국인터넷기업협회)

(서울=뉴스1) 손엄지 기자 = 사단법인 한국인터넷기업협회 회원사인 네이버(035420), 카카오(035720), SK커뮤니케이션즈는 '악의적 선거 딥페이크 사용 방지를 위한 공동선언'을 8일 발표했다.

이번 공동선언은 주요 정보기술(IT) 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환이다. 제22대 국회의원 선거 기간 참여 기업 간 긴밀한 협력 기조를 세우려고 마련했다.

공동선언문에서 이들은 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지·신속한 조치 노력하고, 대응 정책 공개 등을 통해 대응 투명성을 높이기로 했다.

또 확산 방지를 위한 지속적 논의와 정보·의견 교류 활성화에 노력한다는 방침이다.

아울러 다양한 시민단체, 학계 등 외부 전문가와 지속해서 논의하고, 악의적 선거 딥페이크에 대중들의 인식을 높이기 위해 노력하기로 했다.

공동선언문 채택 기업들은 인공지능(AI) 생성 콘텐츠 관련 플랫폼 운영 기조와 자율규제를 만들고, 선거 허위 정보 신고 채널 운영, 딥페이크 주의 안내 문구 표시 등 다양한 방안을 마련하고 있다.

기업 특성에 맞는 추가적 조치 방안도 준비 중이다.

네이버는 콘텐츠의 출처 정보를 확인할 수 있는 '글로벌 기술 표준(C2PA) 채택 추진'과 '비가시성 메타 정보 피처 반영·생성 콘텐츠를 탐지하는 기술' 확보를 중장기적 목표로 연구개발하고 있다.

카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고, 생성형 AI 이미지 생성 모델 '칼로'에 비가시성 워터마크를 부착하는 기술 도입을 준비하고 있다.

SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 성명에 '검색어 제한 조치'를 통해 선거 관련 딥페이크 제작을 방지한다.

앞서 뮌헨협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔던 구글코리아, 메타(페이스북코리아), X(구 트위터코리아) 등 해외 기업들은 기술협정에 따라 이번 선언문을 채택한 국내 기업들과의 자율협의체 활동에 참여하며 대응할 예정이다.

eom@news1.kr