[김대식의 미래 사피엔스] [49] 아이들의 노예

일러스트=조선디자인랩 이연주

놀이터에서 귀여운 아이들이 놀고 있다고 상상해 보자. 아직 학교에 입학하지 않은 대여섯 살 되는 아이들이다. 그런데 신기한 일이 벌어진다. 가족도 아닌 주변 어른들이 마치 아이들의 노예같이 행동하고 있으니 말이다. “이리 와!” 하고 버릇없는 말투로 명령하면 그쪽으로 가고 “내가 버린 쓰레기 청소해” 하면 말없이 바닥을 닦는다. 아이들을 위해 온종일 일하며 그들을 마치 ‘주인’이나 ‘왕’같이 대하는 어른들. 도대체 무슨 일이 있었던 걸까? 왜 이런 황당하고 역설적인 상황을 상상하라는 걸까? 바로 우리가 상상하는 미래 인류와 기계의 관계가 저런 역설성을 가지고 있기 때문이다.

기계는 인간보다 뛰어나다. 처음부터 인간의 한계를 극복하기 위해 기계를 만들기 시작했으니 너무나도 당연한 말이다. 자동차는 인간보다 빠르고, 망치는 인간의 주먹보다 강하다. 그리고 이제 서서히 현실이 되어가는 인공지능은 인간의 ‘자연 지능’을 능가하기 시작한다. 언어와 사고 능력, 그리고 상상력과 창작 능력까지 가지기 시작한 생성형 AI. 죽지 않고, 끝없이 업데이트가 가능한 기계는 덕분에 언젠가 ‘자율성’이라는 개념까지도 학습할 수 있겠다.

20년 후일까? 아니면 50년일까? 정확한 예측은 불가능하지만, 인간의 능력을 모든 면에서 능가하는 범용적 인공지능(AGI)의 등장은 결국 피하기 어려워 보인다. 그렇다면 모든 면에서 인간을 능가하는 AGI는 왜 여전히 인간을 위해 일하고, 인간의 명령에 복종해야 할까? 왜 아이들보다 더 힘세고 똑똑한 어른들이 아이들 명령에 복종해야 할까?

더 뛰어난 종이 등장하는 순간 덜 뛰어난 종은 지구에서 언제나 멸종하거나 노예가 되거나 가축이 되었다. AGI가 등장하는 순간 호모 사피엔스는 멸종하거나, 기계의 노예가 되거나 그들의 가축이 될 수 있다는 말이다. 인간보다 더 세고 똑똑한 기계를 영원히 통제하고 제어할 방법은 없을까? AI 수퍼 정렬(Superalignment)이라고 불리는 인류가 반드시 풀어야 할 가장 중요한 숙제다.