[매경데스크] AI 진짜 공포는 가스라이팅

빛의 속도로 진화하는 AI
일자리·가짜뉴스 부작용보다
인간 주체성 상실이 더 심각
'나'를 빼앗기지 않으려면
윤리·규제 마련 지혜 모아야

소설가 켄 리우의 단편 'The Perfect Match'(한국어판 제목 천생연분) 속 주인공은 초거대 인공지능(AI) '틸리'의 추천(을 가장한 지시)에 모든 것을 의지한다. 세상만물 모든 데이터를 수집해 활용하는 틸리는 주인공의 취향과 컨디션에 최적화된 아이템을 골라준다.

틸리의 추천은 언제나 '옳다'. 잠 깨우는 음악부터 점심 메뉴와 음료, 패션까지 하나같이 만족스럽다. 천생연분 데이트 상대 추천도 틸리의 몫이다. 틸리의 뒤엔 운영사인 초거대기업 '센틸리언'이 있고, 센틸리언과 마케팅 컬래버레이션을 하는 또 다른 수많은 자본이 숨어 있다. 이 정도까지면 그럴 수도 있겠다 싶지만 자신의 모든 판단과 결정, 심지어 인간관계까지 틸리의 조언에 따르는 대목에 이르면 슬슬 섬뜩함이 느껴진다. 데이트 중 잠시 침묵이 흐르자 틸리는 어색함을 풀어줄 대화 주제와 그다음 스텝까지 곧바로 귓속말로 속삭인다. 주인공의 내면에선 의구심이 싹튼다. 너무도 매끄럽지만 감탄도 긴장감도 없는 만남. '이게 내가 정말 원하는 건가.' 그는 틸리의 작동을 멈춰보지만, 상대 여성 역시 틸리 없이는 일상을 살 수 없는 사람이다. 그들이 오롯한 인간으로서 함께할 수 있는 일은 없다. 틸리의 조언에 따라 상대방은 자리를 떠버린다.

SF 속 한 장면이지만 근미래 현실로 다가올, 어쩌면 이미 그 초입에 접어들었을 풍경이다. 광속으로 발전을 거듭하는 AI가 가져올 디스토피아적 미래에 대한 경고는 수도 없다. 데이터와 AI 기술을 장악한 거대기업이 됐든, 인간 지능을 뛰어넘고 종국엔 자아까지 갖게 된 인공지능이 됐든 결국 인공지능이 우리를 지배할 것이란 예언이다. 그 전단계로 AI에 일자리를 뺏기고, 개인정보가 마구잡이로 유출돼 악용되며 가짜 뉴스와 거짓 영상이 판을 칠 수 있다. 공정이 무너지고 불평등이 심화될 가능성도 있다.

정작 가장 공포스러운 것은 인간의 주체성과 사람다움을 상실하는 것이다. 크고 작은 의사 결정부터 사람 사이 관계와 상호작용, 심지어 사랑과 미움의 감정마저 AI가 컨트롤한다면? 자유의지와 판단력을 잃어버린 인간을 여전히 인간이라 부를 수 있을까(휴머노이드를 거쳐 인체와 인공지능의 결합 단계까지 다다르게 되면, 아예 인간에 대한 새로운 정의가 필요할 것이다). 인공지능이 물리적 지배자로만 군림하는 세상에선 존 코너 같은 레지스탕스라도 나올 수 있겠지만, 인간 머릿속까지 가스라이팅하는 세상은 자아를 상실한 인간 형상의 노예들만 넘쳐날 것이다. 지구 종말 시나리오 못지않게 끔찍한 일이다.

마이클 샌델 하버드대 교수는 올해 세계경제포럼(WEF·다보스포럼)에서 "AI 시대 윤리 문제로 일자리 축소, 공정성 침해, 프라이버시 침해, 민주주의 훼손 등 네 가지를 들지만, 더 중요한 것은 인간다움을 유지하는 것"이라고 말했다.

어떻게 AI에 '나'를 뺏기지 않고 존엄성을 지켜낼 수 있을까. 혹시 해서 AI에 물어봤다. 요약하자면 △교육과 인식 강화 △윤리적 가이드라인과 규제 강화 △사용자 중심의 디자인 △공공 토론과 시민 참여 강화 △자기 결정의 책임 강조 등이다. 여느 AI 윤리 전문가들이 내놨음직한 대답이다.

하지만 머지않은 미래 언젠가 같은 질문을 던진다면 초지능AI는 다음과 같이 답할지 모른다. "존엄이니 주체성이니 골치 아픈 고민에 시간 낭비 마세요. 모든 결정은 제게 맡기세요. 당신에게 정말 필요한 것은 당신보다 제가 더 잘 압니다." 여기에 고개가 끄덕여진다면 소설 속 표현대로 '지니는 이미 램프에서 탈출한 뒤'다. 늦기 전에 윤리 가이드라인과 적절한 규제 마련에 전 인류적 지혜를 모을 때다.

[이호승 콘텐츠기획부장]