[매경포럼] AI가 아니라 인간이 문제다

AI가 조작한 사진에
美증시 폭락 사태
AI규제 목소리 높지만
가짜뉴스에 취약한
인간본능이 더 문제

지난달 22일 오전 10시께 미국 증시가 10분 동안 롤러코스터를 탔다. 사회관계망서비스(SNS)에 뜬 사진 한 장이 문제였다. 미국 국방부 청사인 펜타곤이 화염에 휩싸인 장면을 찍은 사진이었다. 2001년 9·11 테러를 연상시키는 이미지였다. 러시아 관영매체가 "펜타곤 인근에서 폭발 보도가 있다"는 기사를 올려 공포가 극대화됐다. 5분도 안돼 다우존스지수는 100포인트 가까이 추락했다. 미국 당국은 부랴부랴 사진의 출처를 찾아내 "인공지능(AI)이 생성한 가짜"라고 발표했다. 이날 해프닝은 AI의 위험성에 대한 경각심을 일깨웠다. 에릭 슈밋 전 구글 최고경영자는 "가까운 미래에 AI가 인간을 다치게 하고 죽일 수 있다"고 경고했다. AI의 대부로 불리는 제프리 힌턴 토론토대 교수 등 많은 전문가들은 AI가 팬데믹과 핵무기만큼 위험한 기술이 될 수 있다는 데 동의하고 있다. AI가 인류를 파멸시키기 전에 대책을 세워야 한다는 목소리도 높다.

하지만 AI 경계론은 과장된 측면이 있고 진짜 중요한 논점을 흐리고 있다. AI의 배후에 나쁜 인간이 있다는 사실이다. 가짜뉴스만 해도 그렇다. AI는 가짜뉴스를 그럴 듯하게 만들 뿐이다. 최초의 조작은 인간에 의해 이루어진다. 인간은 이기적인 목적을 달성하려고 가짜를 진짜로 꾸민다. 만약 인류가 멸망한다면 그 책임은 AI가 아닌 막강한 권력을 가진 인간 지도자일 가능성이 크다. 투키디데스의 '펠로폰네소스 전쟁사'에는 가짜뉴스로 아테네를 몰락시킨 지도자가 등장한다. 알키비아데스라는 인물이다. 그는 자신의 영달과 권력을 위해 위험천만한 시칠리아 원정을 부추겼다. 아테네 시민들의 근거 없는 낙관론에 호소하며 유려한 연설로 선동했다. "시칠리아에는 큰 도시들이 있지만 온갖 잡종이 넘쳐나고 끊임없이 주민이 바뀌거나 새로 유입됩니다. 그들은 자신의 조국을 위해 싸운다는 감정이 없습니다. 당파 싸움으로 국고를 축내거나 다른 나라로 이주할 생각만 합니다." 백전노장인 니키아스가 정확한 팩트를 근거로 절대 그렇지 않다고 역설했지만 알키비아데스의 가짜뉴스를 믿는 아테네 군중 앞에서 힘을 잃는다. 시칠리아 원정에서 아테네 군대는 전멸한다. 인류 역사에 알키비아데스 같은 지도자가 끊임없이 등장하는 것은 가짜뉴스에 취약한 인간 본능 때문이다. 한스 로슬링의 '팩트풀니스'(사실충실성)는 인간의 팩트 회피 본능을 풍부한 통계로 증명한 역작이다. 하나의 관점만 고집하며 편을 가르고 극단적 사례를 보편적 진리로 믿는 인간의 약점을 드러낸다. "역사는 단순한 유토피아적 시각으로 끔찍한 행동을 정당화한 사람으로 가득하다." 로슬링의 이 말은 언제나 현재진행형이었다. 가짜인지 알면서 거짓말을 하든, 잘못된 신념으로 가짜뉴스를 전파하든 결과는 마찬가지다. 인류에게 끔찍한 피해를 입힌다는 점에서 그렇다.

팩트 회피 본능은 오직 자기반성을 통해 극복될 수 있다. 제퍼슨대 영문학과 연구원인 조너선 갓셜은 신작 '이야기의 역설'에서 이런 제안을 하는데 귀담아 들을 만하다. "우리는 의심하는 습관을 들여야 한다. 자신의 이야기에 과장·위조·비논리 같은 허튼소리의 낌새를 알아차리는 법을 배워야 한다. 나는 도덕주의적 분노가 치미는 것이 느껴지거나 나 자신이 어떤 사람을 악당으로 만들어 그를 비인간화하고 있음을 알아차리면 심호흡을 하고서 그 이야기를 다른 식으로 상상하려고 애쓴다." 이는 순자가 말한 '비찰시 시찰비(非察是 是察非)' 정신과 일맥상통한다. 가려진 것을 벗겨낸다는 뜻의 해폐(解蔽) 편에 실린 내용이다. "우리는 두 가지 할 일이 있다. 그르다고 할 때 옳은 것은 없는가 살피고, 옳다고 할 때 그른 것은 없는가 살펴야 한다." AI는 죄가 없다. 반성하지 않는 인간이 문제다.

[장박원 논설위원]