[김동기의시대정신] AI시대, 우리는 어디로 가는가

연초 저커버그의 AGI 개발 선언
인류는 점점 초지능시대로 향해
앞으로 밀려올 기술의 파고 앞에
인간의 실존적 고민도 함께 하는가

우리 우주는 팽창하고 있다. 빅뱅 이후 수많은 은하가 산산이 흩어지는 중이다. 138억년 전에 일어난 폭발이니 이제는 속도가 줄어들고 있는 줄 알았다. 그런데 점점 더 빨라지고 있다고 한다. 먼 우주의 끝은 빛보다 빠른 속도로 멀어지고 있다.

문명의 진화도 가속 페달을 밟았다. 불을 발견하고 돌도끼를 손에 쥔 인류가 청동기와 철기를 다루기까지는 수십만 년이 걸렸다. 증기기관 발명 후 전기의 시대를 열기까지는 100년의 시간이 필요했다. 컴퓨터와 인터넷의 등장은 불과 몇십 년 전이다. 그때는 앨빈 토플러의 ‘제3의 물결’이 핫했다. 숨 가쁘게 달려온 인류 앞에는 어느새 네 번째 물결이, 엄청난 파고의 위용으로 다가오고 있다. 미래학자 레이 커즈와일은 20세기 100년 동안 이룬 발전이 21세기 속도로는 20년이면 충분하다고 했다. 그의 전망대로라면 2045년, 기계의 지능이 인간을 뛰어넘는 특이점(singularity)에 도달하게 된다. 이제 문명은 생물학적 인간의 손을 벗어나게 되는 걸까?

김동기 국가미래연구원 연구위원·전 KBS PD

1월18일, 메타의 최고경영자(CEO) 마크 저커버그가 AGI(범용인공지능) 개발을 공식 선언했다. AGI는 주어진 모든 상황에서 인간처럼 추론하고 학습하고 문제를 해결한다. 특정 문제만을 해결하는 챗GPT(오픈AI)와 제미나이(구글)의 궁극적인 꿈도 AGI로의 진화다. 그런데 어딘가 섬뜩하다. AGI가 특이점을 지나는 순간 우리는 초지능(superintelligence)을 만나게 될 것이다. 그 결과가 무엇을 낳을지는 아무도 모른다.

1월25일 한국을 방문한 오픈AI의 CEO 샘 올트먼은 이런 우려 속에 있는 핵심 인물이다. 올트먼은 지난해 11월 이사회에 의해 해임당한 후 5일 만에 쿠데타를 뒤엎고 복귀한 바 있다. 쿠데타의 배경에는 AGI의 개발과 통제를 둘러싼 철학의 충돌이 있었다. 실패한 혁명가 일리야 수츠케버(오픈AI 공동설립자)는 말했다. “우리는 이 지적인 컴퓨터들이 인류에게 우호적인 감정을 갖기를 바라야 할 겁니다.”

상상력은 기술보다 빠르다. 높은 지능을 가진 기계가 자유 의지와 생존 본능을 갖게 된 후 펼쳐질 미래는 많은 영화가 이미 구현했다. 스탠리 큐브릭 감독의 1968년작 ‘2001 스페이스 오디세이’에는 인공지능(AI) 컴퓨터 HAL9000이 나온다. 자의식을 기반으로 인간을 거역하는 기계장치의 시조새 격인 캐릭터다. 이후 스카이넷(‘터미네이터’·1984)이 등장해 포스트 아포칼립스 시대 인간과의 전쟁을 벌였다. 매트릭스 설계자(‘매트릭스’·1999)인 기계들은 인간의 정신을 가상현실에 가두고 신체를 자신들의 에너지원으로 쓴다.

SF 문학의 거장 아이작 아시모프는 1942년에 이미 이와 같은 공포를 예견했다. 그가 규정한 ‘로봇 3원칙’은 로봇 헌법으로 통한다. 1원칙, 로봇은 인간에게 해를 끼칠 수 없다. 2원칙, 로봇은 인간의 명령에 복종하되 1원칙을 위배할 수 없다. 3원칙, 로봇은 자신을 보호하되 1원칙과 2원칙을 위배할 수 없다. 공상 과학 소설 얘기라며 웃어넘길 일이 아니다. 1월4일, 구글 딥마인드는 로봇 3원칙을 기반으로 오토(Auto)RT를 개발했음을 발표했다. 자율 로봇의 초기 단계인 만큼 가드레일이 필요했다는 설명이다. 1942년 만들어진 로봇 헌법의 첫 번째 적용 사례다.

3원칙으로 이제 안심해도 되는 걸까? 원칙에 적용된 언어가 인간의 의도대로 해석되리라는 법은 없다. 아시모프의 단편을 영화화한 ‘아이, 로봇’(2004)을 보자. 슈퍼컴퓨터 비키(VIKI)는 첫 번째 원칙을 굉장히 넓게 해석한다. 로봇이 인간을 지키려면 인간을 통제해야 한다고 판단한다. 다수를 보호한다는 명목하에 개별 인간에게 가하는 폭력도 용인한다. 아이언맨이 창조한 AI 울트론(‘어벤져스: 에이지 오브 울트론’·2015)도 마찬가지다. 창조자가 입력한 인류 평화라는 코드는 인류 파괴의 동의어로 읽힌다. 익숙한 논리다. 인류 역사상 수많은 경전과 철학과 이념들이 이렇게 제멋대로 읽혀 왔다.

현재 지구 위 모든 생명체의 운명은 인간의 의지에 달려 있다. 인간이 지능을 무기로 환경을 지배해 온 결과다. 이는 더 지능적인 존재에게 먹이 사슬의 최상위 자리를 빼앗길 수도 있다는 의미이다. ‘AI의 아버지’로 불리는 제프리 힌턴은 지난해 돌연 구글을 떠나며 수십 년에 걸친 AI 연구를 후회한다고 밝혔다. AI를 핵무기에 비유하며 그 위험을 경고하는 힌턴에게서 ‘원자폭탄의 아버지’ 오펜하이머의 모습이 겹친다.

19세기 기술혁명이 인간을 컨베이어벨트 위의 부품으로 전락시키고 하늘을 검은 연기로 뒤덮었을 때 화가 폴 고갱은 원시의 섬 타히티로 향했다. 인간의 탄생과 삶과 죽음을 은유하는 대작을 완성했고 ‘우리는 어디에서 왔는가? 우리는 무엇인가? 우리는 어디로 가는가?’라는 긴 제목을 붙였다. 지난 세기 기술의 물결이 인간의 소외를 고민하게 했다면 오늘 우리 앞에 밀려오고 있는 파도는 인간의 실존을 의심하게 한다. 가속하고 있는 우주에서, 가속하고 있는 기술 개발 위에서 잠시 숨을 고르고 ‘우리는 어디로 가는가’를 숙고해야 하는 이유다.

김동기 국가미래연구원 연구위원·전 KBS PD