[여현덕의 AI Thinking] 필터버블·에코챔버·딥페이크… 조작이 판치는 AI 미래는?

사용자들이 좋아할 정보만 노출
편향된 신념 강화시킬 위험성 커
진짜보다 뛰어난 가짜 영상까지
개인차원 넘어 사회 전반 악영향

내년 4, 11월 韓 총선 美 대선 등
국가 중대사 선거조작 가능성도
특정인 맹목적 지지… 나머진 ‘적’
서로 미워하는 ‘1국가 2국민’ 우려

2018년 4월 한 유튜브 방송에서 버락 오바마는 “트럼프 대통령은 순전히 쓸모없는 똥 덩어리”라는 아찔한 비난을 퍼부었다. 이 장면은 매우 충격적인 것이었고 이는 유튜브를 비롯해 수많은 소셜미디어에 게시돼 엄청난 파장을 불러일으켰다.

그러나 실제로는 오바마가 한 말이 아니라 온라인 매체의 테스트 버전으로 만든 인공지능(AI) 가짜 영상, 즉 딥페이크(deepfake)였다. 내년에는 한국과 미국에 선거가 있다. 한국에서는 4월 총선, 미국에선 11월 대선이 열린다. 국가 중대사를 앞두고 AI 기술에 의한 선거 조작 가능성에 대한 우려가 크다. AI의 여론 조작은 아래와 같은 것들이 대표적이다.

첫째, 필터버블(filter bubble)이다. 오늘날 AI 플랫폼은 사용자가 자주 보는 것만 보여줘 선호도와 신념의 고착화를 강화하는 속성이 있다. 편식이 편식을 낳고 편견은 편견을 낳는다. 필터버블은 원래 사용자에게 가장 편한 ‘사용자 인터페이스’를 제공하기 위한 용도였지만, 요즘에는 사용자가 특정 정보만을 접하도록 걸러내는(필터링된) 알고리즘으로 인해 편견과 편향의 대명사가 됐다. 유명한 시민단체 아바즈의 창시자 엘리 프레이저는 ‘생각 조종자들’에서 알고리즘으로 의사 결정을 설계하는 위험성에 대해 경고하기도 했다. 검색엔진과 소셜미디어 플랫폼에 작동하는 알고리즘은 초개인화된 경험을 제공하기도 하지만, 사람들에게 편향된 신념을 강화하는 정보만 노출하고 다른 관점에는 눈감게 하는 ‘선택적 의식화’의 위험성에 빠지게 한다.

인터넷 상업주의로 인해 이런 경향은 더욱 강화된다. 예컨대 ‘가피아’(GAFIA:Google, Apple, Facebook·Meta, Instagram, Amazon)와 같은 거대 플랫폼 기업이 고객 유인 및 파워 경쟁에 몰두하는 동안 이 현상은 심화하고 있다. 가피아는 사용자가 좋아할 만한 정보를 중심으로 필터링해 최적화된 초개인화 서비스를 제공하기도 하지만, 다른 한편으로는 사용자 개인 성향에 기반해 외눈박이를 양산케 할 수 있다. 광고에서도 필터버블 알고리즘은 사용자가 좋아할 만한 광고 콘텐츠만을 소비하고 즐기게 한다. 이는 결국 정치·사회적 이슈에서도 고정관념과 편견 덩어리로 변하게 만들기 십상이다. 고정관념과 편견의 심화는 개인 차원에 그치지 않고 사회와 정치 전반에 악영향을 미쳐 궁극적으로 민주주의를 파괴할 수 있다.

둘째는 바로 고정관념과 편견을 사회 전반에 영향을 미치도록 하는 에코챔버(echo chamber) 현상이다. ‘집단의 메아리’라는 뜻의 에코챔버의 원래 의미는 방송이나 녹화 시 음향효과를 만들어내는 방을 의미하지만, 그 방에서 소리를 내면 그 소리가 메아리가 돼 돌아온다는 뜻에서 유래했다. 앞서 언급한 것처럼 필터버블 현상, 즉 듣고 싶은 것만 듣고 보고 싶은 것만 골라보는 사람들끼리 인터넷 공간에서 만나 생각을 믿음으로 강화하고 패거리를 만들게 되면 그 편향된 집단의 메아리는 서로에게 동지적 의식을 심어준다. 이런 편향된 사고를 공유하게 되는 현상을 에코챔버 효과라고 한다.

최근 다양한 인터넷 서비스에서 사용자 맞춤형 정보를 제공하면서 에코챔버 메아리 방에 갇히는 사람들이 늘어나고 있다. 그리하여 자신이 원하는 인물을 맹목적으로 지지하고 나머지는 적으로 돌리는 진영 논리의 종노릇을 강요한다. 결국 에코챔버 효과가 강화되고 집단의 메아리가 널리 퍼지면 필시 한 나라의 구성원으로 살면서도 서로를 미워하고 적대시하는 두 개의 국민도 쉽게 만들어낸다. 이른바 ‘1국가 2국민 현상’이다. 필터버블과 에코챔버 현상 속에서 댓글 부대에 의해 댓글 공장이 가동되면 온갖 선전과 가짜뉴스를 양산하는 집단이 생겨난다.

여기에 등장하는 모든 사진은 진짜 같은 가짜다. 출처:The Guardian, this-person-does-not-exist.com

셋째는 AI 딥페이크 알고리즘의 창작활동으로 가짜가 진짜를 이기는 기술(GAN)이다. 생성적 대립 신경망(GAN:Generative Adversarial Networks) 알고리즘을 고안해 ‘간파더(GANfather)’라는 별명을 얻은 이안 굿펠로우(현재 구글 딥마인드 엔지니어)는 스스로를 훈련하는 두 가지 경쟁 알고리즘을 사용해 진짜보다 뛰어난 인공 작품(가짜 이미지)을 만드는 데 성공했다. 딥페이크의 알고리즘 GAN의 원리는 경찰과 위조지폐범의 경쟁을 통해 훈련된다. 판별자 경찰은 생성자 위조지폐범을 잡아내기 위해 엄청난 노력을 기울이지만, 결국 위조지폐범은 경찰이 구분하지 못할 정도로 감쪽같은 위조지폐를 만들어낸다. 이처럼 경쟁과 대립 속에서 위조지폐범은 실력을 연마해 어느 것이 진짜 지폐인지 구분하기 어려울 정도로 완벽한 지폐를 만든다. 진짜와 가짜의 경쟁을 통해 가짜가 진짜보다 앞서게 된다.

물론 딥페이크가 반드시 부정적 기능만 있는 것은 아니다. 가령 8·15 광복절날 김구의 영상을 등장시켜 독립운동가를 기억하게 하거나(공익적 효과), 그리운 김광석의 목소리를 그대로 학습시켜 ‘보고싶다’라는 노래를 기막히게 부르는 딜렙 효과(Deleb=Dead+Celebrity)도 있다. 하지만 딥페이크는 순기능 못지않게 부작용도 만만치 않다. 방송통신심의위원회에 따르면 ‘딥페이크 처벌법’이 시행된 2020년 6월 이후 작년 10월 말까지 방심위가 시정 요구한 허위 영상물은 총 7329건에 이르렀다고 한다. 딥페이크는 계속 증가하는 추세다. 필터버블, 에코챔버, 딥페이크 생성자 GAN이 만나면 선거판을 뒤흔들 수 있다. 가짜뉴스를 통해 돈을 벌려고 하는 경우도 허다한 상황이다. AI 기술의 성능이 더욱 좋아짐에 따라 엄청난 양의 딥페이크 조작을 알아내기가 더욱 어려워졌다. 세계경제포럼의 2021년 보고서에 따르면 딥페이크 동영상의 수는 매년 약 900%씩 증가했으며 유튜브로도 만드는 방법을 스스로 배울 수 있게 됐다.

일찍이 ‘욕망의 억제’를 통한 문명발전론과 ‘욕망의 해방’을 통한 문명발전론 양대 축은 대립·갈등하면서 신테제(synthesis)를 구축해왔다. 인간의 욕망은 정치와 돈이 개입되면서 억제를 모르고 폭발한다. 선거는 이를 종합하는 장이다. 내년 선거에서 인간의 욕망과 AI 알고리즘이 극적으로 만나게 된다. 자기 진영을 위해 애써 편식하고 편향과 편견에 중독돼 도파민을 즐기는 그들에게 필터버블, 에코챔버, 댓글 공장, 경찰을 속여먹는 생성자 GAN이 모두 한 통 속으로 스크럼을 짜면 과연 어떤 세상이 될까?

카이스트 기술경영전문대학원 교수

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지