[이지환 칼럼] 기술의 가스라이팅, 그리고 비폭력 기술

이지환 KAIST 경영공학부 교수

1888년 알프레드 노벨은 신문 기사를 보고 큰 충격에 빠졌다. 자신의 형 루드비히의 죽음을 본인의 사망으로 오해한 한 언론이 부고에 ‘죽음의 상인, 죽다’라는 헤드라인을 뽑았기 때문이다. 다이너마이트로 인류의 건설 현장을 혁신했다고 자부했던 그에게 세상이 내린 평가는 ‘살상무기 개발자’에 불과했다. 이런 뼈아픈 성찰은 1901년, 오늘날 인류 최고의 영예인 노벨상 제정으로 이어졌다. 기술의 본질과 그 결과 사이의 괴리에 대한 고민은 그로부터 100년이 훌쩍 지난 인텔리전스 시대의 우리에게 더욱 절실한 화두를 던진다.

오늘날 세상은 새로운 기술에 열광한다. 생성형 인공지능(AI)부터 자율주행까지, 혁신은 일단 신기하고 편리하다. 없던 산업이 태동하고 기업가치가 치솟으며 내가 가진 주식의 가격도 오른다. 하지만 우리가 누리는 문명의 이기들-손목시계, 통조림, 생리대, 인터넷, GPS, 그리고 AI에 이르기까지, 그 이면을 들여다보면 섬뜩한 공통점이 발견된다. 세상을 바꾼 수많은 기술이 사실은 전쟁에서 승리하기 위한 처절하고 강력한 의지에 힘입어 비약적으로 발전했다는 사실이다.

직접적인 살상 무기뿐만이 아니다. 첩보전과 여론전에 투입되었던 정보기술(IT)은 가속적으로 고도화되었고, 이는 고스란히 현대의 제조와 서비스 모델로 이식되었다. 최근 기승을 부리는 피싱(Phishing)이나 스미싱(Smishing) 같은 신종 사기 수법은 IT 발달이 가져온 어두운 단면을 극명하게 보여준다. 딥페이크 기술을 이용해 지인의 목소리와 얼굴을 흉내 내어 금전을 갈취하는 행위는, 기술이 인간의 신뢰라는 가장 고귀한 가치를 어떻게 무기로 돌려세우는지 증명하는 단적인 사례다.

넷플릭스의 다큐멘터리 ‘소셜 딜레마’나 ‘쇼핑의 음모’는 금세기 들어 우리가 열광하는 혁신 기술이 얼마나 교묘하고 심지어 음흉한 방식으로 인간과 환경에 해를 입히는지 엿보게 한다. 사용자 경험(UX) 최적화라는 명목하에 설계된 무한 스크롤과 정교한 알고리즘은 인간의 도파민 체계를 장악하여 기술에 종속되게 만든다.

어찌 보면 인격체가 아닌 기술에 의한 ‘가스라이팅’인 셈이다. 기술이 제공하는 편리함에 취해, 우리가 기술의 주인이 아닌 데이터 공급원이자 소비 도구로 전락하고 있음을 인지하지 못하게 만들기 때문이다. KAIST를 비롯한 국내 대학들이 ‘밝은 인터넷’, ‘바른 ICT’ 류의 단어가 들어간 연구센터를 설치한 이유이기도 하다.

이러한 문제 때문에 기술 연구나 개발 자체를 자제해야 한다는 것은 결코 아니다. 다만, 기술의 폭력성을 냉철하게 직시해야 한다. 어떤 기술을 개발하거나 상용화하는 사람들에게 그 기술이 폭력성을 내포하고 있다고 경고하면 대부분 펄쩍 뛰며 부인할 것이다. 그들의 의도는 ‘혁신’과 ‘효율’이었기 때문이다.

여기서 우리는 심리학자 마셜 로젠버그의 베스트셀러 ‘비폭력 대화’를 참고할 필요가 있다. 로젠버그는 우리가 일상에서 자녀, 친구, 동료를 위로하거나 조언한다며 무심코 하는 말들이 기실 그들에게는 오히려 큰 상처가 되곤 한다는 불편한 진실에서 출발했다. 기술도 마찬가지다. 개발자가 의도했든 아니든, 첨단 기술이 인간을 소외시키고 불행으로 몰고 가게 되는 필연적인 속성을 인식하지 못한다면 그것은 언제든 폭력이 될 수 있다. 이에 대비할 수 있는 사회적 기제가 반드시 작동해야 한다.

우리는 기술 덕분에 누리게 된 편리함과 물질적 풍요에 가려, 기술의 폭력성을 제한적이고 간접적인 부산물 정도로 생각하며 간과해서는 안 된다. 소외 계층을 위한 유니버설 디자인이나 디지털 포용은 이미 오래된 개념이다. 하지만 카페의 낯선 키오스크 앞에서 우왕좌왕한 경험을 해보았는가? 나이가 든 어르신들은 손주 같은 뒷사람의 짜증 섞인 한숨에 식은땀을 흘리며 슬그머니 자리를 양보하기도 한다.사업자를 위한 노동생산성이라는 이름의 기술이 휘두르는 보이지 않는 폭력에 상처 입은 뒷모습은 처연하다.

상대의 욕구와 상처에 공감하며 소통하는 ‘비폭력 대화’와 흡사한 마인드로 기술을 설계하고 운용한다면, 기술은 진정으로 인류를 보듬는 도구가 될 수 있다. 이제 ‘비폭력 기술’(Nonviolent Technology)을 지향하는 사고와 훈련 방안을 체계적으로 모색할 필요가 있다.

개발자와 사용자 모두가 새로운 기술이 의도하지 않은 방식으로 다른 사람이나 사회에 미칠 위해성을 신중히 염두에 두어야 한다. 제2, 제3의 노벨이 사후에 ‘죽음의 상인’으로 기억되지 않도록, 우리는 지금 기술의 폭력성을 경계하고 이에 휩쓸리지 않게 해줄 다양성과 윤리성의 동아줄을 단단히 붙잡아야 한다.