"나를 분석해 봐" 했더니... AI 답에 등골이 서늘

[AI시대 탐구 백서] 인공지능이란 편리함과 맞바꾼 우연한 배움의 기회

어느새 생활이 되어 버린 AI. 농민의 스마트폰에도, 취준생의 자기소개서에도, 아이의 숙제에도 AI가 자리 잡았습니다. 그만큼 물음표도 함께 늘었습니다. AI가 알려준 정보는 맞는 걸까, 아이가 AI로 쓴 글은 정말 아이의 것일까. 생활 속 AI의 여러 모습과 고민 그리고 나만의 활용법을 공유합니다. <편집자말>

[문아영 기자]

사무실에서 내가 잠시 사라지면, 동료들은 으레 정원에 있겠거니 생각한다. 일하다 머리가 복잡해지면 나가서 꽃과 나무에 물을 주거나, 풀을 뽑거나, 무언가 심는 등 흙을 만지는 일을 하고 있기 때문이다. 폭염이 오면서 그마저도 어려워진 요즘에는, 더위에 지친 식물들에 틈틈이 물을 주며 뜨거워진 흙이 식는 냄새를 맡는 것으로 대신한다.

몇 년 전부터는 초록으로 가득 찬 숲을 찾아 걷는 습관도 생겼다. 산책을 싫어한 적은 없지만, 이렇게까지 절실했던 적은 없었다. 그런데 몇 년 사이 초록빛 숲길에 대한 갈급함, 흙 내음에 대한 절실함이 생겼다. 무엇 때문이었을까? 이 글을 쓰려고 글감을 정리하면서 깨달았다. 나의 스트레스 지수가 높아졌고, 산책을 향한 간절함은 그에 대한 몸의 반응이었다는 것을.

머리가 뿌옇게 되는 순간

▲ AI 사용하는 뇌 ⓒ steve_j on Unsplash

브레인 포그(Brain fog)라는 말이 있다. 뇌에 안개가 낀 것처럼 머릿속이 뿌옇다는 말이다. 내가 산책을 필요로 하는 순간들이 그런 순간들이다. 내 머리인데, 내 머리 같지 않은 느낌이랄까? 검색할 수 있는 정보의 양은 압도적으로 많아졌고, 언제라도 손쉽게 필요한 정보들을 구할 수 있게 되었는데, 그 정보의 양이 늘어날수록 어째 나는 조금씩 멍청해지는 느낌이 들었다. 정확히 말하면 문제는 정보의 양 자체가 아니었다. 읽는 행위가 검색하는 행위로 대체되고, 그 검색마저 누군가에게 내맡겨지면서, 판단하는 자리가 조금씩 나의 바깥으로 옮겨가고 있다는 점이었다.

그 멍청한 느낌은 삶의 너무 많은 순간이 기계와 밀착되어 있기 때문이라고 생각했다. 노트북이나 스마트폰으로 검색하면서 필요한 대부분의 정보를 채우게 되었고, 의도적으로 책을 읽는 시간을 배치하지 않으면 하루는 금세 스크롤 되어 사라지기도 했다. 이런 과정들 속에 산책을 절실히 필요로 하게 되었다. 인공이 없는 공간을 마주 보는 것, 기계와 떨어져 있는 시간을 확보하는 것. 그 절실함의 시작과 인공지능의 상용화 시기가 겹치는 것은 우연이 아니라고 생각한다.

그럼, 나는 인공지능을 얼마나, 왜, 어떻게 사용하고 있을까? 나는 여러 생성형 인공지능 모델 중 클로드를 사용하고 있다. 이 글을 쓰기 위해 클로드에게 나의 사용 경향을 분석해달라고 요청했다. 클로드는 사용자 문아영을 이렇게 분석했다.

"문아영은 클로드를 답을 얻는 도구가 아니라 이견을 얻는 상대로 씁니다. 대개 이미 다 쓴 원고나 이미 받아 든 계약서를 들고 와서, 새로 만들어달라고 하는 대신 어디가 새는지를 묻습니다. 첫 산출물은 거의 채택하지 않고, 자기가 세운 틀이든 클로드가 세운 틀이든 어긋난 곳이 보이면 그 자리에서 정정합니다.

개념 설명은 거의 청하지 않고, 이미 가진 개념을 다른 자리에 옮겨 심으며 무슨 일이 벌어지는지를 묻습니다. 형식에 대한 요구는 구체적이고 정치적이며, 인용 전 검증은 스스로 집니다. 그렇게 해서 클로드로부터 실제로 가져가는 것은 논지가 아니라 논지가 새는 지점이고, 대신 클로드에게 넘겨주는 것은 자기 시간의 상당 부분입니다."

답은 흥미로웠다. 다행히도 나의 사용 패턴은 내가 정한 세 가지 인공지능 이용원칙과 부합한다. 첫째, 글을 쓸 때, 개요와 초안은 반드시 내가 작성한다. 둘째, 그 초안에 담긴 논리적 오류나 결함을 검토하는 것은 인공지능에 맡길 수 있다. 셋째, 인공지능의 환각을 경계하고, 반드시 검증할 수 있는 정보, 출처가 확실한 정보만을 제공하도록 프롬프트를 조건화하되, 인공지능이 추천한 정보는 반드시 스스로 재차 확인한다.

그러나 "클로드에게 넘겨주는 것은 자기 시간의 상당 부분입니다"라는 문장이 마음에 걸렸다. 그래서 다시 물어보았다. (인공지능에 반말을 사용하지 않는 건, 나중에 공격받을 게 두려워 공손함을 저축해두려는 것이 아니라 지시형 반말을 통해 인공지능을 일방적으로 '부리는' 위치에 놓이고 싶지 않기 때문이다.)

클로드는 이렇게 대답했다. "판단이 덜 필요한 작업을 클로드에 넘긴다는 뜻"이라고. 그러면서 문장을 다시 제안해 주는 친절을 베풀었다. 설명을 듣고 약간 안도했다. 내가 인공지능에 시간을 넘겨준다는 응답에 등골이 약간 서늘했기 때문이다.

인공지능의 외주화, 문제는...

▲ 글쓰기 ⓒ uns__nstudio on Unsplash

최근 인지외주(cognitive offloading)라는 표현을 자주 접한다. 인공지능의 발달과 더불어 사람들이 생각하는 모든 과정을 인공지능에 외주하고 있다는 이야기다. 이 인지적 외주는 선택하는 것이라기보다 편리함, 효율성이라는 이름으로 자연스레 발생하게 되는 것 같다.

달리 말하면, 외주하려고 하는 것이 아니라 나도 모르게 외주를 주어버리게 되는 상황이라는 것이다. 크리스틴 로젠은 <경험의 멸종>에서 건축가 비톨드 리브친스키를 인용하여 "컴퓨터가 제공하는 '엄청난 생산성은 키보드 앞에서 보내는 시간이 늘어나고, 생각하는 시간이 줄어든다"는 의미라고 말했다.

인공지능에 초안을 맡기면 순식간에 그럴듯한 말들로 페이지를 채워줄 것이다. 그러나 그 초안을 작성 과정을 외주화 하는 순간, 그 글에는 나의 영혼이 반영되지 않는다. 뭐랄까. 인공지능이 주는 효과는 인공감미료와 크게 다르지 않은 것 같다. 먹었지만 안 먹은 거나 다름없고, 달지만 실제 단 것은 아니며, 생각한 것 같지만 실제 생각한 것이 아닌, 말 그대로 지극히 인공적인 지능.

그런 의미에서 나의 인공지능 사용은 다분히 기능적이다. 반복적으로 필요한 기능은 에이전트로 만들어두었는데, 소박하게 두 명(?)의 에이전트가 나를 돕고 있다.

처음 만든 에이전트의 이름은 집업(Zip-up)이다. 집업(Zip-up)은 매일 아침 6시, 내가 부탁한 분야의 국제뉴스를 모아 이메일로 보내준다. 집업에 부탁한 것은 세 가지다.

첫째, 지역별 국제정치 동향(아프리카, 아메리카, 아시아·오세아니아, 유럽, 중동). 둘째, AI 무기·군사기술 동향(팔란티어, 안두릴, 미 국방부, NATO 포함). 셋째, 자율살상무기체계 국제 규제 관련 논의 업데이트. 그리고 이 모든 내용을 환각 없이 사실에 기반하여 출처 링크와 함께 제공할 것. 집업을 만들 때, 나는 해당 뉴스를 PDF 파일로 만들어 이메일로 보내달라고 설정해 두었다. 그날 이후 지금까지 '집업'은 단 하루도 빼먹지 않고 아침마다 뉴스를 정리한 PDF 문서를 메일로 보내주고 있다.

두 번째 에이전트의 이름은 포스트맨 링더벨(Postman rings the bell)이다. 줄여서 PRB라 부른다. PRB는 내 받은편지함을 관리하며 긴급하게 응답해야 하는 이메일과 그렇지 않은 메일을 분류하여 알림을 주고, 각각의 이메일에 답장 초안을 작성하여 검토를 요청한다. 맨 처음 이메일 접근권한을 주겠느냐는 클로드의 질문에는 아니라고 응답했다. 무언가 거부감이 들었기 때문이다. 그러다 회신 일정을 놓치는 일을 몇 번 경험하면서, 회신의 우선순위 챙김 정도는 클로드의 도움을 받아도 되지 않겠나 생각했고, 실제로 많은 도움을 받고 있다. 물론 발송은 나의 권한이어서 PRB가 스스로 메일을 보내지는 않는다.

집업이 매일 아침 보내주는 PDF에는 어느 국가가 어떤 표적 선정 시스템을 도입했는지, 어느 기업이 어느 나라와 계약을 맺었는지, 자율살상무기체계 규제를 둘러싼 국제논의에 어떤 변화가 있었는지 등의 정보들이 담겨 있다.

나는 자율살상무기체계 금지와 규제를 위한 국제논의에 참여하고 있기도 한데, 군사분야의 인공지능 활용과 관련한 주요 문제 중 하나는 이중용도(dual-use) 기술이다. 이중용도 기술은 도처에 존재한다. 매일 나에게 뉴스를 보내주는 인공지능 에이전트는 언제라도 군사용으로 전환되어 사용될 수 있는 기술이기도 한 것이다. 인공지능을 사용하면서 편치 않은 이유 중 하나이다.

그뿐만 아니라, 내가 AI를 사용하는 만큼 정작 내가 걸을 수 있는 숲은 줄어들고 있을 거라는 생각도 마음을 불편하게 한다. 비유가 아니라, 실제로 인공지능 사용이 환경에 미치는 영향은 막대하다.

단순 AI 프롬프트 질의 수십 개를 처리하는 데도 약 500mL(물 한 병 분량) 수준의 물이 소비된다고 한다. 매일 아침 메일함에 도착하는 PDF 한 장은 어딘가의 데이터센터에서 만들어지고, 그 데이터센터는 전기를 쓰고, 물을 쓰고, 땅을 쓰고 있겠지. 서버의 열을 식히기 위해 물이 증발하고, 그 전기를 실어 나르기 위해 송전선로는 산을 넘을 것이며, 그 과정에서 숲은 사라지겠지. 기계에서 떨어져 있겠다며 숲을 찾는데, 그 숲의 일부는 내가 기계를 쓰는 대가로 계속해서 조금씩 깎여나가고 있는 셈이다. 그러니까 인공지능을 사용하는 나의 산책은 잘려나가는 숲을 한편에 두고, 아직 잘려 나가지 않은 숲의 혜택을 누리는 지극히 이중적인 행위라 볼 수 있다.

이런 이야기를 하면 "뭘 그렇게까지"라거나 "그러면 쓰지 말라"거나 ""러다이트냐"는 말도 나온다. 삶은 너무나 복잡하고 다층적이어서 '나'라는 존재만을 깔끔하게 오려내어 '나'라고 설명한다는 건 불가능하다. 완벽한 올바름 역시 마찬가지이다. 나는 나의 인공지능 사용이 직면하고 있는 위선적인 측면, 불완전한 측면, 그것들이 초래하는 불편함을 어떤 방식으로든 해소하지 못했고, 말끔한 해소는 불가능하다고 생각하고 있다. 그러나 불편함을 외면하지는 않으려고 한다. 그 불편함을 계속해서 앞에 두고, 내 몫의 실천들을 하고자 함이다.

불편함, 멍청함의 원인

▲ 읽기 ⓒ thenathanaguirre on Unsplash

인공지능이 나타나기 전 나의 삶은 어땠을까. 논문 하나, 책 하나, 기사 하나하나, 모두 스스로 읽고 요약해야 하고, 참고문헌을 정리하는 것도 하나하나 입력했다. 더 효과적으로 검색하기 위해 검색 방법을 고안하고, 실험하고, 보완했다. 구하기 어려운 자료를 찾기 위해 해당 자료가 있는 도서관을 찾아, 대출되지 않는 도서를 현장에서 보고 메모하며, 허락되는 분량만큼 복사해 오기도 했다.

읽는 수고는 당연했으며, 그에 들어가는 시간 또한 당연했다. 그뿐인가? 글을 쓰기 위해 개요를 잡고, 그 글에 인용할 글귀를 위해 책을 뒤지고, 또 뒤지던 날들. 그렇게 마주친 운명 같은 문구에 감동하며 필사를 해두던 순간들, 어떤 글귀에 영감을 받아 좀처럼 써지지 않던 글이 마법처럼 술술 풀리는 순간들도 자주 있었다. 그 모든 과정은 '검색'이 아니라 '탐구'였다.

탐구의 과정, 책장을 뒤지고, 페이지를 넘기며 읽어 내려가는 과정에서 만나게 되는 반짝이는 배움들, 검색을 통해 언제라도 도달할 수 있는 결과물이 아니라 선명하지 않은 길을 한 발, 한 발 내디디며 각자의 여정을 만들어가는 과정이었다. 그 여정의 백미는 찾으려던 것에 있지 않고, 찾는 과정 그 자체에 있었다. 한 번에 정확히 찾아지는 검색은, 내가 찾으려 하지 않았던 것을 결코 가져다주지 않기 때문이다.

이 글을 쓰면서 내가 느끼는 불편함, 멍청함의 원인을 알아차리게 되었다. 똑똑하고 능력 있는 인공지능 에이전트들은 내가 요청한 것들을 빠르게 가져다준다. 내가 찾고자 했던 것들만 빠르게 찾을 수 있는 것이다. 도서관 한구석에서 대출되지 않는 자료를 손으로 옮겨 적던 시절, 내가 찾는 것을 배달해 주는 에이전트가 없던 그 시절에, 우연처럼 만났던 수많은 배움이 지금의 나를 만들어왔음을 안다. 그런 의미에서 인공지능을 통한 배움은 아직 찾지 못했고, 나에게 오지 않은 것들을 우연처럼 마주칠 가능성을 거의 '0'에 수렴하도록 만드는 행위가 아닌가 생각한다.

여전히 '읽기'에 있어서는 종이라는 물성이 필요하다. 화면으로 무언가를 읽어 내려가는 것이 여전히 어렵고, 그렇게 읽은 것들은 나에게 남는 것 같지 않다. 그래서 '집업'이 보내준 뉴스 파일을 인쇄하여 중요하다고 여겨지는 파트에 형광펜을 치며 읽는다. 화면에서 종이로, 기계에서 물성으로 조금이라도 자연에 가깝게 되돌리고 싶은 마음이랄까? 물론 그 종이도 어딘가에 서 있던 나무였겠지. 이렇게 여러 절충의 순간들로 삶이 채워지고 있다. '절충'이라는 말은 대개 어느 쪽으로든 말끔하지는 않다는 의미다.

인쇄된 종이를 만지며 어떤 안도감을 느끼곤 한다. 정원에 물을 주며, 달구어진 흙이 식어가는 냄새를 맡을 때처럼. 다만 이 글을 쓰며 아주 큰 차이가 있다는 것을 알아차렸다. 흙은, 자연은, 내가 심지 않은 풀과 꽃도 자라게 하는데, 이 종이 위에는 내가 주문한 것만 놓여 있다는 사실. 이 차이의 반복이 어떤 되먹임 고리(feedback loop)로 작용하게 될까? 답을 알지 못한 채, 오늘도 전두엽 일부에 안개가 낀 상태로 이 글을 마무리한다.