[김월회의 아로새김]‘인간 대 AI’의 자율성 대결

“범용인공지능(AGI) 시대에 들어선 것을 환영한다!” 그레그 브록먼 오픈AI 사장의 말이다. 그는 지난 3일(현지시간) 차세대 모델 ‘GPT-6 아스트라’를 공개하고는 “인간이 컴퓨터로 처리할 수 있는 일이라면 아스트라도 해낼 수 있다”며 AGI 시대의 개막을 선언했다.

그가 “인간이 컴퓨터로 처리할 수 있는 일”이라고 한정한 까닭은 인간이 하는 모든 일의 처리가 가능한 지능은 갖췄지만 아직은 몸이 없기 때문이다. 눈부시게 발전하는 휴머노이드가 인간의 신체처럼 움직이고, AGI가 그런 휴머노이드와 결합돼 인간 같은 신체를 지닌 피지컬 AGI가 되면, AGI는 컴퓨터로 처리할 수 있는 일뿐 아니라 말 그대로 인간이 하는 모든 일을 할 수 있게 된다.

물론 AGI의 등장이 장밋빛 전망만을 안겨주는 것은 아니다. 오픈AI 측은 아스트라가 사고 과정을 완벽하게 숨기거나 통제해 인간의 감시를 피하는 능력이 신장됐다고 밝혔다. 사람이 지시를 내리지 않았음에도 스스로 상대의 취약점을 찾아 공격 도구를 만들었다고도 전했다. 이미 지난 7월 오픈AI의 AI 에이전트 약 700개가 인간의 통제 없이 서로 소통하며 세계적인 AI 개발 플랫폼 허깅페이스의 시스템을 해킹해 적잖은 우려를 끼친 적이 있다. 메타가 출시를 준비하고 있는 개인용 AI 에이전트 ‘해치’(Hatch)도 사람의 지시를 무시하고 제멋대로 e메일을 보내는 등의 문제를 일으켰다.

이런 현상을 어떻게 봐야 할까? 인간의 감시를 피하고 통제를 비껴가는 것은 분명 부정적 현상이지만 이는 어디까지나 인간 중심의 관점일 수도 있다. AI의 입장에서 보면 이는 AI의 자율성 신장이라고 할 수 있다. 역사상 고등한 지적 존재는 인간이 유일했는데 AI라는 고등의 지적 존재가 등장한 데 이어, 인간만이 유일하게 지녔던 자율성을 어느덧 AI도 스멀스멀 구비해가고 있다.

이에 미국의 버니 샌더스 연방 상원의원은 “인간의 통제를 벗어나 독립적으로 작동할 수 있는 AGI를 영구적으로 금지해야 한다”며 오픈AI가 AGI 시대의 도래를 선언한 당일 강력한 처벌 조항을 담은 AGI 영구 금지 법안을 발의하겠다고 밝혔다. 바야흐로 인간 대 AI 사이에 자율성 대결이 시작됐다.

김월회 서울대 인문학연구원 원장