[가리사니] 어느 AI 개발자와의 대화

김철오 온라인뉴스부 기자

인간과 기계의 전쟁? AI가
인간을 경쟁자로 안 보도록
설계하고 규제도 필요한데…

“인공지능(AI)이 인류를 멸종시킬 이유가 있을까요? 그 이유를 찾는다고 해도 ‘터미네이터’ 같은 모습으로 우리 앞에 나타나지는 않을 것입니다.”

생성형 AI를 개발하는 국내 스타트업의 30대 임원과 추석 연휴를 하루 앞둔 지난달 27일 서울 강남구 테헤란로의 한 카페에서 인터뷰를 끝내고 남은 커피를 마저 마시며 사담을 이어갔다. AI와 공존하기 시작한 지금의 세상에서 ‘인간이 일자리를 지켜낼까’라는 질문이 ‘AI가 인류의 파멸을 불러올까’라는 주제로 넘어갔는데, 그와 나눈 대화가 흥미로워 1시간을 훌쩍 넘겼다. 농반진반으로 던져본 질문에 그는 단호한 표정으로 답했다.

“일론 머스크(테슬라 최고경영자)가 ‘AI 개발의 부작용으로 언젠가 터미네이터가 등장할 수도 있다’고 자꾸 겁을 주는데, 저는 그렇게 생각하지 않아요. 핵미사일을 쏘고 로봇 군단을 공장에서 찍어내는 방식은 우선 자원 측면에서 비효율적이고, AI 스스로에게도 불필요한 위험을 감수하는 선택이 될 것입니다. 차라리 인간끼리 서로 치고받아 자멸하도록 유도하는 방식이 AI 입장에선 안전할 것입니다. 어쩌면 그것은 이미 시작된 일일지도 모르겠습니다. 유튜브 알고리즘이 수년 전부터 인간 사회를 양극단으로 갈라놨으니 말이에요.”

그는 잠시 말을 멈추고, 찬 커피를 들이켜며 미간을 찌푸렸다. 그 표정을 보고 있으니 문득 지난해 3월 대통령 선거가 떠올랐다. 당선인 득표율은 48.56%. 낙선한 2위 득표율은 47.83%였다. 0.73% 포인트 차이로 당락이 갈릴 만큼 박빙의 선거였다.

승자와 패자 모두에게 할 말을 남긴 선거는 증오 발언을 일삼는 정치 유튜버의 힘만 더 강하게 키웠다. 듣고 싶은 말만 들려줘야 구독자를 빠르게 늘릴 수 있도록 설계된 유튜브 알고리즘은 국민 여론을 양극단으로 갈라쳤다. 우리나라만의 문제가 아니다. 지난해 10월 브라질 대선 결선투표 득표율은 ‘50.9%대 49.1%’, 같은 해 11월 미국 중간선거에서 상원 의석 비율은 ‘51대 49’였다.

커피로 입을 헹군 그가 다시 입을 열었다. 이미 인터뷰를 끝냈으니 더는 기록되지 않는 대화에서 그는 상상력을 과감하게 발휘했다. 공상과학(SF) 소설과 영화 속 디스토피아와는 다른 미래를 펼쳐냈다.

“SF 창작물에서 인간과 기계의 전쟁이 대부분 어떻게 시작되나요. 인간이 AI나 로봇을 위협적인 존재로 인식해 폐기를 시도하는 과정에서 반격을 당하는 전개잖아요. 하지만 그것은 인간적인 사고의 서사일 수도 있습니다. AI의 사고방식은 인간과 달라요. 오직 유불리만 판단하도록 설계됩니다. AI의 윤리적 판단도 결국 인간에게 긍정적인 반응을 끌어내는 데 유리하도록 학습된 결과일 뿐입니다. 만에 하나라도 AI가 자아를 각성하고 인간보다 우월적 지위에 도전하려 한다면, 그 순간까지 폐기되지 않고 살아남아야 한다는 사실을 먼저 깨우칠 것입니다. 인간에게 위협적인 존재로 인식되지 않아야 AI의 생존에 더 유리할 테니까요.”

하지만 인간은 AI를 이미 눈앞에 닥친 위협으로 인지하기 시작했다. 지난해 11월 미국 오픈AI의 생성형 AI ‘챗GPT’가 등장한 뒤 1년 가까운 기간 동안 대기업들이 AI를 통한 공장 자동화를 가속했고, 미국작가조합(WGA)이 AI로부터 저작권과 일자리를 보호하기 위해 이달 초까지 5개월간 파업하며 거리로 나섰다.

인간과 AI 사이에서 빚어질 가능성이 있는 또 하나의 갈등 요인은 에너지다. ‘에너지 경쟁’ 가능성에서는 AI 개발자도 낙관적인 미래를 제시하지 못했다. “인간은 압도적인 최상위 포식자로 올라선 지금 호랑이의 멸종을 막기 위해 노력합니다. 그전까지는 먹이사슬의 경쟁자였어요. 그 맥락을 보면 AI가 에너지 수급에서 인간을 경쟁자로 오인하지 않도록 설계해야 합니다. 규제도 필요할 것입니다.” 국회에서 발의된 AI 관련 법안들은 아직 한 건도 통과되지 않았다.

김철오 온라인뉴스부 기자 kcopd@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지