총선 앞두고···네이버·카카오 'AI 주의문구' 추가

딥페이크 검색 결과 등에 표시
정치적인 발언 않도록 조치도

이미지투데이

[서울경제]

네이버와 카카오 등 국내 플랫폼 기업이 인공지능(AI)이 만든 콘텐츠에 ‘라벨’을 붙일 예정이다. 제22대 국회의원 총선거와 재·보궐 선거를 앞두고 AI를 악용한 허위 정보로 인한 피해를 막기 위한 대비책을 마련하는 것으로 풀이된다.

28일 정보기술(IT) 업계에 따르면 네이버는 하이퍼클로바X 등 AI 생성 이미지 워터마킹 기술을 개발하고 있다. AI가 만들거나 편집한 이미지에 라벨을 붙여 식별하도록 지원하겠다는 것이다. 카카오도 카카오브레인의 AI 이미지 생성 모델인 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있다. 일반 이용자들에게 워터마크가 노출되진 않지만 기술적으로는 칼로 생성 여부를 판단할 수 있다.

윤석열 대통령의 대선후보 시절 TV연설 장면을 짜깁기한 허위 조작 영상. 온라인 커뮤니티 캡처

네이버와 카카오 등 플랫폼 기업은 딥페이크 부작용에 대한 우려가 커지자 대응책을 마련하는 것으로 보인다. 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 엑스(옛 트위터) 등에서 퍼지면서 경각심이 높아지고 있다. 한국과 미국을 비롯한 76개국에서 대선·총선 등 전국 단위 선거가 치러지는 '선거의 해'를 맞아 AI를 악용한 허위 정보 확산이 우려되고 있다. 딥페이크 영상은 아니지만 윤석열 대통령의 대선후보 시절 TV연설 장면을 짜깁기한 허위 조작 영상이 유포되며 우려가 현실이 됐다.

글로벌 빅테크들도 딥페이크 부작용을 차단하기로 결정했다. 오픈AI·구글·메타·틱톡·엑스(X) 등 20개 기업은 최근 독일 뮌헨안보회의(MSC)에서 유권자가 속을 위험이 있는 콘텐츠를 감지해 라벨을 붙이는 등의 조치를 자발적으로 취하기로 합의했다.

네이버는 워터마크 외에도 딥페이크 악용 콘텐츠 확산을 막기 위해 팔을 걷어붙였다. 이르면 이번 주 딥페이크 관련 키워드 검색 결과에 경고 문구를 표시하는 방안을 발표한다. ‘딥페이크 제작법’ 등을 검색했을 때 경고문을 노출하는 방안을 검토하고 있다. 네이버는 이달 초부터 카페, 블로그에 이미지 등 콘텐츠를 올릴 때 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 노출하고 있다. ‘허위 정보를 포함한 딥페이크 영상 등은 관련 법률 및 이용약관에 따라 제재를 받을 수 있다’고 안내하고 있다. 네이버의 커뮤니티 서비스를 통해 딥페이크를 악용한 콘텐츠가 확산하는 것을 막기 위한 조치다. 네이버는 AI 콘텐츠 필터링 기술인 '그린아이'로 유해 딥페이크를 실시간 차단하고 있다.

네이버와 카카오는 뉴스 댓글을 통한 허위 정보 유포도 대응하고 있다. 네이버는 조만간 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 계획이다. 이미 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나서고 있다. 네이버는 선거 기간 이후에도 기사 형태의 허위 게시물 신고에 대한 '한국인터넷자율정책기구(KISO) 가짜뉴스 신고센터 채널' 안내도 함께 추가한다. AI로 생성한 댓글도 감시하고 있다.

업계 차원에서도 자율적으로 대응 방안을 고심하고 있다. 네이버와 카카오, SK커뮤케이션즈, 구글코리아, 메타코리아, 틱톡 운영사인 바이트댄스 한국지사 등 한국인터넷기업협회 소속 플랫폼 기업도 공정성·신뢰성을 제고하기 위해 자율협의체를 구성했다. 협의체는 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 등 대응 방안을 마련해 조속한 시일 내 발표할 계획이다.

김성태 기자 kim@sedaily.com윤지영 기자 yjy@sedaily.com