여·야·선관위 모두 딥페이크 선거 운동 대응 '고심'

딥페이크 등 인공지능 기술 적용된 영상·사진 등 문제
유포 시 삽시간에 전파…삭제, 차단 등엔 긴 시간 소요
선관위 모니터링 활동하지만 1명이 300여건 점검 '부담'
국민의힘은 미디어정책특위 활동…포털 등 문제해결 추진
민주, 전담기구 없지만 각 사안별 가짜뉴스 유포 등 대응

[수원=뉴시스] 김종택 기자 = 제22대 국회의원선거 D-90을 하루 앞둔 10일 경기도 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 선관위 직원들이 흑색선전, 비방, 허위사실 공표 등 사이버 선거범죄 근절 홍보 퍼포먼스를 진행하고 있다. 이번 퍼포먼스는 선관위가 딥페이크 선거운동 등 변화된 선거환경에 선제적으로 대응하기 위해 실시 중인 사이버선거범죄 근절 활동을 최근 관련 선거법 개정에 따라 대국민 홍보의 일환으로 실시했다. 2024.01.10. jtk@newsis.com

[서울=뉴시스] 임종명 기자 = # 1. 지난해 3월 프란치스코 교황이 새하얀 패딩점퍼를 입은 사진이 온라인을 달궜다. 패딩 위로는 십자가 목걸이를 하고 있었다. 해당 사진에는 교황의 패션 센스를 추켜세우는 댓글들이 이어졌다.

# 2. 도널드 트럼프 전 미국 대통령이 뉴욕 경찰에 체포되는 사진이 각종 사회관계망서비스(SNS)를 기반으로 확산됐다. 사진은 트럼프 전 대통령이 체포 상황에서 거세게 저항하는 모습, 경찰들을 피하는 모습 등이 담겼다.

두 사례 모두 딥페이크(Deep Fake) 기술로 인한 창작물, 즉 가짜다. 컴퓨터가 스스로 데이터를 조합, 분석해 학습한다는 의미의 딥 러닝(Deep Learning)과 가짜라는 뜻의 페이크(Fake)의 합성어다. 인공지능 기술을 통해 특정 인물의 얼굴 등을 특정 장면과 영상에 합성한 것을 의미한다.

당시 전세계 사람들이 깜빡 속았을 정도로 실제인지 아닌지를 구분하기 어렵다.

교황의 패딩 패션 사진은 한 인공지능(AI) 프로그램으로 생성된 것으로 알려졌는데, 해당 프로그램 업체는 이 상황 이후 무료 평가판 서비스를 일시 중단했을 정도다. AI 관련 프로그램들이 늘어나면서 딥페이크 편집물 제작이 보다 손쉬워진 상황이다.

[서울=뉴시스]SNS를 중심으로 퍼진 도널드 트럼프 전 미국 대통령 체포 사진. 딥페이크 등 AI기술을 활용한 프로그램을 통해 제작된 가짜사진으로 전해졌다. (사진 = 트위터 캡처). 2024.02.08.photo@newsis.com *재판매 및 DB 금지

이러한 환경 변화에 4·10총선을 앞둔 정치권도 경계를 놓지않고 대응에 부심하는 모양새다.

여야는 지난해 12월 말 본회의에서 선거일 90일 전부터 딥페이크 기술을 활용한 선거운동을 전면 금지하는 내용의 공직선거법 개정안을 통과시켰다.

딥페이크 기술이 활용된 제작물은 지난 대선 때처럼 긍정적인 차원에서 후보의 부족한 선거운동 시간을 채우기 위해 쓰이기도 하지만 영상과 음성도 복제가 가능하다는 면에서, 특정 후보를 불리하게 하는 목적을 위해 사용될 수도 있어서다.

특히 딥페이크 적용 제작물이 불특정 다수에게 순식간에 퍼지기 쉬운데 비해 삭제나 차단을 위해서는 오랜 시간이 걸리는 속성을 감안해 내놓은 대책인 셈이다.

공직선거법 개정안 의결에 따라 중앙선거관리위원회(선관위)는 지난달 29일부터 딥페이크 영상 등을 이용한 선거운동 단속에 나섰다. 선제적 대응을 위해 허위사실공표·비방특별대응팀을 확대 편성·운영키로 했다.

AI 전문가와 모니터링 전담 요원으로 구성된 감별반도 활동 중이다. 이들은 온라인상 정치 관련 게시물을 살펴보고 선거범죄 가능성이 있는지 여부를 판단한다. 그러나 감별반의 구성원 1명이 하루 평균 300건 상당의 게시물을 살펴봐야 할 정도로 감별업무가 과중한 상황이다.

당장 총선에 출마 준비를 해야하는 정당에서도 걱정스럽긴 마찬가지다.

국민의힘은 정책위원회 산하에 미디어정책조정특별위원회를 신설했다. 방송과 통신, 콘텐츠 분야 실무 및 법률 전문가를 포함한 9명으로 구성됐으며 가짜 뉴스 뿐 아니라 가짜 상품 및 가짜 후기 등의 문제 해결을 추진한다.

윤두현 미디어정책조정특위 위원장에 따르면 네이버는 이달 1일부터 AI가 작성한 기사를 직접 작성한 기사와 구분토록 하고, 딥페이크나 AI에 의해 작성된 자동댓글을 24시간 모니터링도 진행 중이다.

또 이달 중 '선거 허위정보 신고센터'를 개설해 사용자가 AI로 작성된 허위사진·영상·글을 신고할 수 있도록 조치한다. 이런 유형의 게시물 신고가 접수되면 AI조작 여부를 판단한 뒤 비공개 처리하고 경우에 따라 중앙선관위에 공직선거법 위반 여부의 판단을 요청할 계획이다.

윤 의원은 "불법적인 시도에 대한 대안이 제시됐지만 실행력에 중점을 두고 대응해야 할 것"이라고 밝혔다.

더불어민주당은 딥페이크 제작물이나 AI댓글 문제 대응을 위한 전담 태스크포스(TF)나 특위 등을 구성하진 않았다. 그러나 이 문제를 신경써서 살피고 있다.

민주당 관계자는 "전담 기구는 실제 딥페이크 영상이나 AI댓글 문제가 현실화했을 때 구성할 것 같다"며 "현 상황에선 이재명 대표 피습 당시 유포된 가짜뉴스 문제를 당대표 정치테러대책위에서 대응하듯 각 사안에 따라 출범한 기구에서 맡고 있다"고 설명했다.

☞공감언론 뉴시스 jmstal01@newsis.com