정치인 거짓말도 진실로 둔갑..딥페이크, 민주주의 근간 흔든다

'인공지능 석학' 토비 월시 뉴사우스웨일스대 교수 인터뷰
진짜같은 영상 만들어지면
과거에 일어났던 일도 조작
금융사기·여론선동 우려도
인공지능에 경각심 가지고
적절한 규제로 악순환 차단

◆ AI의 역습, 딥페이크 ② ◆

"저는 딥페이크를 비롯한 인공지능(AI) 기술이 선거 등을 통해 민주주의를 흔드는 데 악용될 수 있을 거라 예언해왔습니다. 정치인들은 자신이 과거에 했던 말이 거짓으로 드러나면 언론에 의해 진실성을 비판받곤 했어요. 하지만 이제 인공지능이 과거에 일어났던 일들도 조작할 수 있게 됐습니다. 이대로면 무엇이 진실이고, 무엇이 거짓인지에 대해 완전히 새로운 근거가 필요하게 될 겁니다."

인공지능 분야 석학인 토비 월시 호주 뉴사우스웨일스대 교수는 최근 매일경제신문과 인터뷰하면서 이렇게 말했다. 딥페이크 같은 인공지능 기술이 민주주의 기본인 진실을 왜곡하는 날이 올 수도 있다는 경고다. 딥페이크는 딥러닝(deep learning)과 가짜(fake)의 합성어로, 인공지능이 만들어낸 진짜 같은 영상을 말한다.

"딥페이크 기술은 유용한 점도 있지 않느냐"고 반박하자 그는 "그건 매우 일부에 불과하다"고 재반박했다. 영화배우가 교통사고 같은 경우로 촬영을 못하게 되면 그를 대체하는 정도의 용도가 있을 뿐, 오히려 △정치인의 팩트 왜곡 △금융사기 △여론 선동 등에 악용될 가능성이 훨씬 크다고 했다. 그는 "줌(영상회의 애플리케이션)을 켰는데 거기에 트럼프, 오바마, 클린턴 같은 인물이 나와서 위험한 일을 지시한다고 해보라"며 "그리고 그들이 딥페이크로 만들어진 가짜 인물이라고 상상해보라"고 물었다.

그는 "안면인식 기술 또한 마찬가지"라며 "좋은 활용 사례는 일부에 불과하고 악용될 가능성이 너무 많은 기술"이라고 했다. 중국의 뛰어난 안면인식 기술 때문에 홍콩 시위대가 거리에 나서자마자 처음으로 하는 행동은 감시카메라를 가리는 것이다.

왜 인공지능에 대해 경각심을 가져야 할까. 월시 교수는 "이전까지 인간이 할 수 없었던 수준의 확장성과 속도, 그리고 정교함을 누구나 가질 수 있기 때문"이라고 말했다. 예를 들어 과거에도 역사를 왜곡하려는 시도가 있었지만, 지금처럼 딥페이크를 통해 정교하고도 빠르게 대규모로 가짜 영상을 만들어낼 수는 없었다. 월시 교수는 "하지만 지금은 누구나 실시간으로 그런 왜곡을 만들 수 있다"고 했다. 그는 또 "핵무기를 만들려면 엄청난 자금과 투자, 연구가 필요하지만 인공지능은 프로그래머 한 사람만 있으면 그에 맞먹는 위력을 만들어 낼 수 있다"고 경고했다.

경제적 발전을 위해 규제를 풀어야 한다는 주장도 있다고 전하자 그는 "지금 거대 기술 기업이 하는 행동들은 더 이상 용납되기 어렵다"며 "지금 우리가 기술 영역에 대한 규제를 가하지 않는다면 경제적 번영은 더 만들기 어려울 수 있다"고 했다. 월시 교수는 "대형 정보기술(IT) 회사에서 일하는 지인에게 사적으로 물어보면 그들 다수는 오히려 규제해 달라고 말한다"며 "그들도 실제로는 하기 싫어하지만 경쟁자들이 하고 있기 때문에 어쩔 수 없이 하지 않으면 안 되는 일이 많기 때문"이라고 전했다. 그는 또 이것은 '악순환'이기 때문에 누군가 고리를 끊어야 한다고 했다.

최근 구글 내부에서 엔지니어 팀닛 게브루가 회사 측에 반발해 퇴사한 데 대해 "이 사건은 구글이라는 거대한 회사가 손쉽게 잘못된 판단을 내릴 수 있음을 보여준 증거"라면서 "대형 IT 회사들은 독점이며, 독점 회사들은 모든 사람들의 이익을 보장하지 못한다"고 말했다. 그는 특히 거대 IT 회사들의 데이터 독점 문제를 거론하며 페이스북이나 구글 같은 곳에서 다른 플랫폼으로 사용자들이 데이터를 손쉽게 옮길 수 있어야 한다고 주장했다. 월시 교수는 "페이스북에는 진정한 경쟁자가 없다"며 "페이스북에서 사진과 데이터를 빼서 다른 플랫폼으로 이전할 수 없기 때문"이라고 했다. 보다 건전하고 윤리적인 플랫폼이 나와 페이스북과 경쟁하려 한다고 해도 데이터를 이전할 수 없다면 경쟁 자체가 불가능하다는 것이다.

월시 교수는 영국에서 태어나 케임브리지대 이론물리학과를 졸업하고 에든버러대에서 인공지능 분야 박사 학위를 받았다.

[실리콘밸리 = 신현규 특파원]