[단독] "딥페이크 유해 콘텐츠입니다"… 네이버, 경고문 붙인다

총선 앞두고 가짜뉴스와 전쟁
딥페이크 연결될 가능성 있는
특정 키워드 검색하면 표시
자체 AI챗봇 얼굴 합성 차단
이르면 다음주 구체안 발표

네이버가 4·10 총선을 앞두고 정보 조작 가능성이 있는 딥페이크(Deepfake) 관련 키워드 검색 결과에 '경고 라벨'을 붙이는 방안을 추진한다. 날로 기승을 부리고 있는 유해 딥페이크 콘텐츠가 빠른 속도로 확산되는 것을 방지하겠다는 취지다.

21일 정보기술(IT) 업계에 따르면 네이버는 정보를 왜곡하고, 특정 인물의 명예를 훼손하는 등 피해를 가할 여지가 있는 유해 딥페이크를 차단하기 위한 '딥페이크 대응책'을 이르면 다음주에 내놓을 예정이다.

현재 네이버가 준비 중인 유해 딥페이크 대응책은 '유통'과 '생산'의 관점에서 크게 두 가지로 분류된다. 유통 측면에선 네이버 이용자가 검색창에 유해 딥페이크로 연결될 가능성이 있는 특정 키워드를 검색할 경우 검색 결과에 문제와 주의를 환기하는 일종의 안내 문구가 노출되는 안이 검토되고 있다.

가령 '해당 검색 결과에는 유해한 딥페이크 콘텐츠가 일부 포함돼 있고, 이용자가 찾는 정보와는 다른 왜곡된 정보가 포함될 수 있는 위험성이 있습니다'와 같은 경고문이 표시되는 방식이다. 이와 관련해 어떤 키워드를 유해 딥페이크 검색값으로 분류할지도 네이버 내부적으로 한창 의견을 수렴 중인 것으로 알려졌다.

생산의 관점에선 네이버 자체 초대규모언어모델 '하이퍼클로바X'에 기반한 인공지능(AI) 챗봇 '클로바X' 내에서 딥페이크 창작이 제한된 상태다. 현재 일부 제한된 사용자를 대상으로 멀티모달의 일종인 '이미지 편집' 기능을 제공 중인데, 이 역시 사람 얼굴 합성 등 안전 이슈가 있는 질문에 대해선 답변을 제공하지 않는 방식으로 차단하고 있다. 이 같은 네이버의 '딥페이크 대응책'은 플랫폼 업체들이 딥페이크를 차단하는 데 적극 나서야 한다는 여론에 부응한 것이다.

여야는 총선에서 딥페이크 문제가 심각할 수 있다는 우려에 딥페이크를 활용한 선거운동을 전면 금지하는 내용의 공직선거법 개정안을 통과시켰다. 공직선거법 개정으로 지난달 29일부터 딥페이크를 활용한 선거운동이 원천 금지됐다. 선거일 90일 전부터 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하 징역이나 1000만~5000만원의 벌금형에 처해진다.

하지만 현실은 딥페이크 게시물이 판을 치는 상황이다. 중앙선거관리위원회가 지난달 29일부터 이달 16일까지 자체 조사한 결과 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

딥페이크가 갈수록 정교해지고 확산 속도도 빨라지고 있어 선관위뿐만 아니라 뉴스가 유통되는 네이버 등 플랫폼도 딥페이크 단속에 적극 나서야 한다는 목소리가 높았다. 한편 딥페이크 자체를 선별하는 필터링 기술은 아직 한계가 많은 것으로 전해졌다. 딥페이크는 단돈 몇만 원만 있으면 가짜 이미지·영상 등을 만들어주는 애플리케이션(앱)이나 서비스가 대중화돼 쉽게 생산해낼 수 있지만, 해당 콘텐츠가 딥페이크인지를 판단하는 데에는 아직까지 기술적인 한계가 많다는 분석이다.

[고민서 기자]