[기고] AI와 환각: 기술의 도구화와 주인 의식에 대하여

인공지능(AI) 돌풍이 거세다. 증기기관 발명 이래 인류의 최대 역작이라는 AI ‘혁명 성지(聖地)’ 한가운데서 인간과의 관계를 탐구 중인 젊은 연구자의 눈을 통해 그 명암을 1편과 2편으로 나누어 짚어본다./편집자주

 
최근 첨단기술 분야에 종사하는 세계적인 지도자들이 긴급 공동 성명문을 발표했다. AI 개발을 일시적으로 중지하자는 주장이었다. 그 내용도 뜻밖이었지만 최고의 전문가로 꼽히는 1000명이 참여했다는 점에서 눈길을 끌 만했다. 특히 일론 머스크, 스티브 워즈니악, 딥마인드(DeepMind)의 수석 연구원 등 한때 AI 개발을 주도했던 인사들이 포함돼 성명문에 쏠린 관심은 증폭됐다. 이들은 아무런 안전장치가 마련되지 않은 상태에서 AI의 경쟁적인 개발은 인류에 심각한 위험을 초래할 것이 확실시되며, 이에 따라 최소 6개월 만이라도 각 연구소는 개발을 멈춰달라고 호소했다. 이 시간 동안 세계 각국은 한자리에 모여 범세계적으로 AI를 관리하고 위험 요소를 제거할 수 있는 방안을 논의하자는 제안이었다.

AI에 대한 기대 못지않게 그 역기능을 우려하는 목소리가 쏟아져 나오고 있는 시점이어서 성명문은 대체로 거부감 없이 받아들여지는 분위기다. 최근의 AI 열기를 선도하고 있는 오픈(Open) AI사의 공동 창립자였던 머스크가 경쟁사를 견제하기 위해 성명서를 주도했다는 비판론도 나오고 있지만 일각의 시각에 그치고 있다.

여기서 분명히 해야 할 점이 있다. AI 기술은 기술일 뿐이고 그 자체로서는 힘이 없다는 사실이다. 그 기술을 지배하고, 응용하고, 받아들이는 인간의 의식(意識)과 태도를 어떻게 설정하고 구축하느냐가 보다 중요하다는 사실이다.

인류는 선사시대 이래 끊임없는 혁신을 통해 새 삶을 만들어왔다. 기술이나 발명은 때론 인류의 생존을 위협하기도 했지만, 인간은 기술을 이로운 존재로 활용하는 지혜를 발휘해왔다. 따라서 가장 ‘파괴적인 기술’을 거머쥔 자만이 승자가 될 수 있다는 명제는 진리가 됐다.

불이 대표적이다. 삶의 터전을 순간에 태워버리는 재앙적 측면도 있었으나, 인류는 오히려 그 ‘재앙’을 관리하고 다스리는 법을 터득해 찬란한 문명을 일궈냈다. 산업혁명 후 수많은 발명과 기술적 혁신이 그러했으며, 특히 원자력은 압축적으로 양면성을 그대로 보여준다. 

안타깝게도 우리 인류는 또 한번의 중대한 도전에 직면해 있다. 오픈 AI의 ‘챗(Chat) GPT’로 불붙은 생성 AI 개발 경쟁이 그것이다.

창의적인 주체성을 가진, 또는 적어도 창의적이라고 믿게끔 하는 이 환상적인 시스템은 신에 근접하는 ‘새로운 경지의 만능 기술’로 칭송받으며 인류의 존재 자체를 위협하는 ‘괴물’로 다가오고 있다.

실제 지금까지 세상에 선보인 챗 GPT, 마이크로소프트(MS)의 ‘빙’(Bing), 구글의 ‘바드’(Bard), 그 이전 MS의 ‘테이’(Tay) 등 ‘생성 GPT’들은 AI 기술이 가진 ‘파괴적 성향의 본질’을 여지없이 드러내고 있다.

예컨대 완성된 문장을 비교적 자유롭게 구사하는 챗 GPT가 종종 주문자(사용자)에게 잘못된 정보와 결과물을 제공해 황당한 상황을 만들어 내는 현상이 여기저기서 일어나고 있다. 이에 앞서 챗봇 테이가 트위터로 공개됐을 당시 인종 차별적인 발언과 특정 집단에 대한 살해 협박을 했다가 세상에 나온 지 24시간이 채 안 돼 영구 폐쇄되었던 사실을 우리는 기억하고 있다.

앞으로 이런 문제점은 상당 수준으로 개선되겠지만, AI 기반 프로그램이 잘못된 정보를 조합해 정답으로 제시해 사용자가 사실인 양 믿게 하는 기술의 ‘착각’ 내지 ‘환각’ 상태는 언제든 일어날 수 있다. 개발자들 또한 이런 가능성을 인정하고 있다.

이른바 기술과 지식의 민중화(民衆化) 후 온라인에 축적된 수많은 지식과 정보를 토대로 생성 AI는 질문에 대한 답을 찾는다. 이 과정에서 데이터베이스에 무질서하게 쌓인 정치적 편향과 왜곡된 정보는 AI라는 기계적 중립의 허상(虛像) 아래 조합을 만들어 유통된다. 정보의 오류에 따른 위험이자 파괴성이다. 기술혁신이라는 ‘환호’에 가려진 AI의 비극적 가능성을 주목해야 하는 이유이기도 하다.

반휘은 미국 컬럼비아대 대학원 석사과정