‘딥페이크 선거운동’ 논쟁… ‘AI 정치인’ 믿을 수 있을까

“유권자 기만… 민주주의 위협” vs “선거운동 다양화 긍정적”

게티이미지뱅크

인공지능(AI) 기술이 발달하면서 사람을 대체한 ‘가상 인간’이 우후죽순으로 생겨나고 있다. 이에 더해 얼굴 합성을 바탕으로 하는 ‘딥페이크 기술’로 만든 영상이 빠르게 확산 중이다. 진짜와 식별되지 않을 정도로 질 높은 딥페이크 영상은 개인 정체성을 흔들거나 범죄에 악용된다. 일반인 얼굴을 포르노나 범죄성 짙은 영상에 합성해 인격을 망가뜨리거나 망신주는 게 가능하게 됐다.

정치권에서는 딥페이크를 활용한 정치인의 선거운동이나 정치 활동이 ‘합법의 틀’에 들어가는지를 두고 논쟁이 뜨겁다. 기술 발전으로 딥페이크 영상을 활용한 정치 활동이 일반화하는 시기가 도래한다는 관측도 나오고 있다. 국제 사회는 선제적인 대책 마련에 돌입했다. 한국에선 아직 딥페이크 관련 법적 기준이 마련되지 않은 만큼 규제 도입 필요성을 논의하기 시작해야 한다는 지적이 제기된다. 딥페이크는 ‘딥러닝(deep learning)’과 ‘페이크(fake)’의 합성어다. AI를 활용한 일종의 얼굴 조합기술이다. 특정 인물의 얼굴이나 신체 부위를 기존 영상에 합친 영상편집물로 주로 쓰이고 있다. 기술 도입 초창기만 하더라도 유명인사들의 풍자나 개그 소재로 딥페이크를 사용했다. 누군가 골탕을 먹는 영상에 유명인사 얼굴을 합성하는 식으로 유머 소재로 활용했다.

그러나 최근에 기술이 한층 발전하면서 일반인의 착각을 유발하는 정치적 소재로 쓰이고 있다. 딥페이크를 사용해 정치인이 실제로 말하는 듯한 콘텐츠가 유행하는 식이다. 2018년 4월 한 유튜브 채널에 버락 오바마 전 미국 대통령의 영상이 올라왔다. 영상에서 오바마 전 대통령은 “트럼프는 완전히 쓸모없는 인간이다”는 충격적 발언을 했다. 도널드 트럼프 대통령을 향한 오바마 전 대통령의 원색적 비난에 전 세계는 큰 충격을 받았다.

이 영상은 오바마 대통령이 만든 게 아니었다. 미국 온라인매체 버즈피드가 딥페이크 기술을 적용해 만든 테스트 작품이었다. 이런 사실이 드러나면서 그나마 논란은 일단락됐다. 버즈피드는 기존의 오바마 전 대통령 영상에 성대모사 목소리를 입히고, 입 모양까지 바꾸는 딥페이크 기술을 사용했다. 자칫 딥페이크 영상이 정치적 갈등을 촉발할 수 있던 셈이다.

한국에서도 딥페이크를 활용한 선거운동은 도마 위에 올랐었다. ‘AI 윤석열’이 그 중심에 서 있다. 제20대 대통령 선거 때 국민의힘은 선거 운동 전략 중 하나로 AI 윤석열을 탄생시켰다. 당시 AI 윤석열은 한국 최초의 대통령 AI라는 점에서 눈길을 끌었다. 영상 속 AI 윤석열은 댓글에 대한 생각을 말해주는 등 대중 친화적 모습을 적극적으로 보여주며 ‘소통 이미지’를 형성했다.

동시에 AI 윤석열의 선거법 위반 여부가 쟁점으로 떠올랐다. 딥페이크를 활용한 선거운동이 적법한지를 두고 논쟁이 벌어졌다. 더불어민주당 측은 딥페이크를 통해 공직 후보자의 단점을 숨기는 방식은 유권자를 기만하고 민주주의를 위협하는 것이라고 비판했다. 이후 AI 윤석열은 6·1 지방선거 직전 국민의힘 남해군수 후보의 유세 영상에 등장하면서 대통령의 선거 개입 논란에 휩싸이기도 했다.

정보기술(IT) 업계에서는 선거운동이나 정치 활동을 실제 정치인이 아닌 AI가 대신하는 시대가 올 수 있다고 본다. 공직선거에서 딥페이크를 활용하는 건 디지털 환경에 맞춰 선거운동 방식을 다양화한다는 측면에서 긍정적이다. 다만, 딥페이크를 이용해 후보자의 부적절한 행동이나 사회적 논란을 허위로 영상에 담아 유포할 경우 선거 결과를 왜곡시킬 수 있다는 치명적 문제점도 안고 있다.

게티이미지뱅크

해외에서는 일찌감치 대응에 들어갔다. 미국과 유럽연합(EU)에서는 ‘딥페이크 콘텐츠’라는 사실을 명확하게 표시하고 낙선, 명예훼손 등의 악의가 담겼을 경우 처벌하는 식으로 대응하고 있다. 미국 텍사스주는 후보자에게 손해를 입히거나 선거 결과에 영향을 줄 의도로 딥페이크 비디오를 제작하고 선거일 30일 내에 유포하는 행위를 금지했다. EU에서도 조작된 딥페이크 콘텐츠의 경우 정보가 조작됐음을 알리는 투명성 의무를 고려하게끔 했다.

이와 달리 한국은 중앙선거관리위원회 유권해석이 ‘기준점’ 역할을 하는 데 그친다. 선관위는 딥페이크 영상을 표시한 선거운동을 허용하되, 실제 후보자 행위로 오인될 수 있거나 허위사실이라면 공직선거법상 허위사실공표죄에 해당한다고 규정했다. 구체적인 표시 기준이나 규제 미적용 대상 등은 제시하지 않았다. ‘엄격한 기준’이 부족한 것이다.

전문가들은 사회 전반의 의견을 수렴해서 합리적 규제 방안을 찾아야 한다고 지적한다. 최진응 국회입법조사처 입법조사관은 “딥페이크로 만들어진 정보도 정치적 표현의 자유로 보장돼야 한다는 의견과 딥페이크를 악용해 만들어진 정보는 허위성을 발견하기 어려워 별도의 입법이 필요하다는 주장이 있다”면서 “별도 입법이 필요하다면 딥페이크 선거운동 개념 및 규제 방향을 명확히 설정해야 하고, 합법적 활용을 위한 명확한 기준을 마련해야 한다. 규제 대상과 미적용 대상도 구체적으로 설정해야 한다”고 9일 강조했다.

산업계에서는 기술 개발로 딥페이크의 부작용을 해소하려는 노력이 이어진다. 인텔은 지난달 16일 얼굴 핏줄을 분석해 딥페이크 영상을 찾아내는 ‘페이크 캐처’라는 기술을 선보였다. 심장이 혈액을 내보내면 얼굴에 있는 정맥의 색이 변하는데, 이런 미묘한 변화를 잡아내 딥페이크 영상인지를 판독하는 방식이다. 현재는 딥페이크 영상인지 판독하는데 많은 시간이 걸린다. 먼저 원본 영상데이터를 확인한 뒤, 딥러닝을 활용해 딥페이크 여부를 판독하기 때문이다. 인텔은 “가짜뉴스나 유해 영상을 효과적으로 걸러낼 수 있다”고 강조한다.

한국에서도 카이스트(KAIST) 이흥규 전산학부 연구팀과 디지탈이노텍에서 공동으로 개발한 ‘카이캐치(KaiCatch)’, 삼성SDS 사내벤처 ‘팀나인’의 딥페이크 위·변조 탐지기술 등이 있다.

전성필 기자 feel@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지