네이버, ‘딥페이크’ 검색하면 경고문구 띄운다

블로그-카페 동영상 올릴때도 게시
카카오도 ‘AI이미지’ 워터마크 검토

28일부터 네이버 검색창에서 ‘딥페이크 사이트’ ‘딥페이크 만들기’ 등을 검색하면 공직선거법 등에 위반될 수 있다는 경고 문구가 함께 게시된다.

이날 네이버는 4월 10일 국회의원 선거를 앞두고 허위조작정보에 의한 피해를 막기 위해 딥페이크를 부적절하게 사용할 의도가 포함된 검색어들을 대상으로 경고 문구를 노출하기로 했다고 밝혔다. 또 블로그, 카페 등에서 게시물을 작성할 때도 딥페이크 영상 등이 관련 법률에 따라 제재될 수도 있다는 문구를 게시하기로 했다. 네이버 관계자는 “검색 이용자가 정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 하는 취지”라고 설명했다.

네이버는 이 외에도 네이버의 생성형 AI 서비스인 ‘클로바 X’와 ‘CUE:(큐:)’ 서비스 대화창 하단에도 선거 관련 사용자 주의 안내 문구를 제공할 방침이다. 또 인공지능(AI)이 만들어 낸 이미지에 대해 AI가 생성했다는 것을 보여줄 수 있는 워터마크(꼬리표) 적용도 검토 중이다.

카카오 역시 AI 조작 콘텐츠 대응에 나서고 있다. 카카오브레인의 AI 이미지 생성 모델인 ‘칼로’에서 제작된 이미지에 비가시성 워터마크 도입을 검토 중이다. 비가시성 워터마크는 일반 사용자에게는 보이지 않지만 기술적으로 AI가 제작했다는 것을 알 수 있게 하는 장치다.

전남혁 기자 forward@donga.com