[매경데스크] 무엇이 진짜고 가짜인가

AI 기술은 인류에 축복일까
진위 구별할 능력 상실하면
디스토피아로 들어서는 것
옥석 가려낼 집단지성 시급

"생생한 꽃들일수록 슬쩍 한 귀퉁이를/손톱으로 상처 내본다, 피 흘리는지 본다./가짜를 사랑하긴/싫다."(김경미 시 '생화'의 일부)

식당에 놓인 꽃을 보면 조화(造花)인지 아닌지 확인해보고 싶을 때가 있다. 꽃잎을 건드려 생화임을 확인하는 순간 생채기를 낸 데 대한 미안함이 스며든다.

중국 출장을 가면 현지 짝퉁시장에서 가짜 명품 시계나 가방을 하나씩 사 오는 게 유행이던 때가 있었다. 외관이 제법 그럴싸해서 영락없는 진품처럼 보였다. 하지만 이런 짝퉁은 얼마 안 돼 고장 나거나 실밥이 터지면서 천박한 몰골을 드러내기 마련이다. 그저 짝퉁은 짝퉁으로 끝나야 한다. 그래야 진품의 존재 가치를 지킬 수 있기 때문이다.

육안과 촉각으로 진위를 가릴 수 있다면 좋겠는데 감쪽같은 가짜가 판을 치는 세상이 도래했다. 그 중심에 인공지능(AI)이 자리 잡고 있다. AI를 통한 이미지 조작의 파괴력을 전 세계에 입증한 사례가 5년 전 '버락 오바마 동영상'이다. 미국 인터넷 매체 버즈피드가 '딥페이크'를 접목한 이 영상에서 오바마 전 대통령은 "트럼프 대통령은 완전 쓸모없는 인간"이라고 공격했다. 가짜라는 걸 알면서도 등골이 오싹했다.

올해 들어서는 유명 인사에 대한 이미지 위변조가 더욱 빈발하고 있다. 흰색 패딩 위에 십자가 목걸이를 걸친 프란치스코 교황, 패션쇼 무대에 선 마크 저커버그, 다정하게 손을 잡고 걷는 일론 머스크와 메리 배라 등 눈을 의심케 하는 조작이 속출했다.

네덜란드의 딥페이크 탐지 기술 업체 '딥트레이스'가 낸 2020년 보고서에 따르면 인터넷에 유포된 딥페이크 영상이 2018년 이후 6개월마다 두 배씩 늘어났다. 더 큰 문제는 가짜의 전파 속도가 팩트보다 훨씬 빠르다는 데 있다. 미국 MIT가 12만6000개의 트윗 데이터를 분석한 결과 사람들에게 가짜뉴스가 도달하는 데 걸리는 시간은 진실이 도달하는 데 걸리는 시간의 6분의 1밖에 되지 않았다. '표류하는 세계'의 저자 스콧 갤러웨이는 잘못된 정보와 음모론이 난무하는 디지털 세계 전반에 불신이 확산되고 있다고 진단했다.

올해의 최대 화두는 단연 챗GPT다. 이 열풍 속에서 유튜브 안내 영상과 서적이 쏟아지고 있다. 신통하긴 하지만 챗GPT가 태연하게 제시하는 답변에는 적잖은 오류도 담겨 있다. 자칫하면 거짓과 편견이 증폭되는 기폭제가 될 가능성을 배제할 수 없는 것이다. 인류의 집단지성으로 AI의 폐해를 막아낼 수 있을까. 미국과 유럽연합(EU) 등이 관련 규제 법안을 신설할 움직임을 보여왔지만 아직 명쾌하지 않다.

오죽하면 스티브 워즈니악 등 테크 전문가 수천 명의 서명을 받은 비영리단체 '삶의 미래 연구소'가 초거대 AI의 위험성을 경고하면서 최소 6개월간 개발을 중단하자고 제안했을까. 인류가 이를 통제할 준비가 되어 있지 않으니 정비할 시간을 벌어야 한다는 절박함이 깔려 있다. 최근 이탈리아는 챗GPT의 접속을 일시적으로 차단했다. 개인정보 보호 차원에서 서방 국가가 챗GPT를 막은 첫 사례다.

AI가 만든 가짜 이미지를 다른 AI로 탐지하고 적발하는 기술도 대안이 되긴 힘들다. 위변조 생성 기술의 발전 속도가 탐지 기술의 발전보다 훨씬 빠를 것이라는 우려가 많다. 딥페이크와 지능형 AI 기술이 한층 진화할수록 왜곡된 정보가 온라인 플랫폼에 넘쳐나고 인류는 심각한 위험에 직면할 공산이 크다. AI 문명에 대한 통제권을 상실한다면 그건 'AI 디스토피아'의 서막을 뜻한다.

앞으로 훨씬 더 많은 생성형 AI가 모습을 드러낼 것이다. 이를 활용하는 과정에서 무엇이 진실이고 거짓인지 가려낼 자신이 있는가.

[황인혁 디지털뉴스부장]