[빵굽는타자기] AI의 거짓말에 대비하라

미국의 국제정치학자 헨리 키신저가 노트북을 들고 본인의 사무실에 앉았다. 그가 마주한 것은 인공지능(AI) 기술의 발전이 가져올 변화에 대한 고민. 머릿속에서 끊임없이 들려오는 질문들이 그를 괴롭혔다. ‘AI는 어떻게 우리 사회를 변화시킬까?’ 키신저는 고요한 사무실에서 자기 생각을 종이에 풀어냈다. AI와 인간의 공존은 예상보다 복잡할 것이라는 사실을 깨달았다.

세계적 석학 헨리 키신저는 이같은 고민을 저서 ‘AI 이후의 세계’에 담았다. 전 구글 최고경영자(CEO) 에릭 슈밋, 대니얼 허튼로커 미 매사추세츠공대(MIT) 슈워츠먼컴퓨팅대 초대 학장도 동참했다. 이들은 모두 AI가 인간의 의사결정에 미치는 영향에 대해 경계했다. AI는 대량의 데이터를 분석하고 예측을 수행하지만, 그 결정이 항상 옳지 않기 때문에 사람들은 늘 AI를 검토해야 한다고 강조했다. 그러면서도 기술이 인간의 지능을 보완할 도구로 발전할 수 있기 때문에 AI와 협력하자고 역설했다.

위 내용은 챗GPT가 책 ‘AI 이후의 세계’의 머리말 부분을 읽고 작성한 감상평이다. 기자가 ‘챗GPT는 지적혁명을 예고한다’는 제목의 머리말 내용을 알려주고 기사 형식으로 정리하라고 지시했다. 키신저를 포함한 저자 소개와 AI가 불러올 미래에 대한 내용도 써달라고 부탁했다. 챗GPT는 요구사항에 맞춰 결과물을 내놓았다. 두 문단 작성에 걸린 시간은 1분여 남짓. 주술 호응과 문법마저도 완벽했다.

놀라운 필력이지만 주목할 부분은 따로 있다. 바로 거짓이 섞여 있다는 것. 우선 키신저가 사무실에서 어떤 식으로 고뇌했는지에 대해서는 알려진 바가 없다. 순전히 챗GPT가 꾸며낸 내용이다. 또 키신저는 AI와 협력하는 자세를 가져야 한다고 요구하지 않았다. 챗GPT가 왜 거짓말을 했는지는 모른다. 분명한 건 챗GPT의 글 실력은 인간과 구분하기 어려울 정도이며, 인간은 알아채기 어렵다는 점이다.

저자들이 가장 두려워한 게 바로 AI의 거짓말이다. AI의 능수능란한 거짓말은 구별이 어렵다. 가짜뉴스를 파악하기 위한 노력 정도로는 안 된다. 오랜 시간 공을 들여도 진위를 파악하지 못할 수 있다. 이른바 생성형 AI는 인류가 쌓아놓은 방대한 데이터를 스스로 학습하고 정제한다. 이 데이터에는 온갖 과소·과대평가와 가짜뉴스, 확증편향, 편견, 혐오도 혼재해 있다. 명석한 인간을 아무리 많이 모은다 해도 온갖 분야의 자료를 습득한 AI의 정보를 분별하기 쉽지 않다.

저자들은 AI의 똑똑함과 거짓말이 ‘신비주의적 광신’을 만들어낼까 우려한다. 과거에도 범접하기 어려운 인물과 기술, 이념에 매료된 추종자들이 많았다. 현실을 탁월하게 가공하는 AI 기술 보유자들이 사회에서 강력한 권력을 거머쥐게 될 가능성이 크다. AI 역량에 따른 차이가 국지적·국제적 변화로 이어질 수도 있다. 저자들은 심지어 "사회적 소외는 물론 혁명까지 발생할 소지가 있다"고 말한다.

인류는 AI의 출현으로 역사적인 중대한 변곡점에 섰다. AI가 대학생의 리포트를 도와준다거나, 일자리가 사라진다는 식의 걱정은 아주 지엽적인 주제일지도 모른다. AI 분야에서는 도덕관념과 사회원칙에 대한 논의가 이뤄져야 한다. 인류가 AI에 책임을 지우고, 한계를 설정하며, 강력한 윤리적 원칙도 만들어야 한다. 그렇지 않으면 저자들이 말했듯 ‘기계가 우리를 영영 함정에 빠뜨릴지도’ 모르니까.

AI 이후의 세계 | 헨리 키신저, 에릭 슈밋, 대니얼 허튼로커 | 윌북 | 296쪽 | 1만7820원

세종=송승섭 기자 tmdtjq8506@asiae.co.kr