[매경시평] 인공지능의 위험성 '튜링 함정'

인간처럼 사고하는 AI 개발
자동화 통해 사람 대체하면
소수만 막대한 부 장악할듯
우리 지능 증강하는 쪽으로
AI연구의 방향 전환이 필요

기술 혁신과 자본 축적을 바탕으로 이뤄진 놀라운 생산성 향상이 인류에게 가져다준 혜택은 수차례 산업혁명을 통해 입증됐다. 성직자이자 인구통계학자였던 토머스 맬서스의 이름에서 유래한 맬서스 함정(Malthusian Trap)은 수천 년 동안 인류는 생존 수준을 벗어나지 못했다는 역사적 사실을 압축적으로 표현한 것이다. 그러다가 18세기 중반 1차 산업혁명이 진행됨에 따라 과거의 정체된 경제와는 달리 기술 혁신을 바탕으로 경제 성장과 함께 1인당 소득이 증가하면서 인류는 맬서스 함정을 벗어나게 됐다. 맬서스는 당시로는 과학적 분석이라 할 수 있는 인구와 식량의 상관관계에 대한 분석을 바탕으로 대다수는 생존 수준에서 벗어나기 어려울 것으로 전망했다. 그러나 그의 예상은 빗나갔고, 맬서스 함정은 세간의 관심에서 멀어졌다.

그렇다고 맬서스의 통찰이 무의미한 것은 아니다. 실제로 산업화 이전 농업 중심 사회에서는 인구와 식량 간에 매우 밀접한 상관관계가 존재했기 때문이다. 이것을 분명히 보여주는 사례로 13세기 이후 수차례에 걸쳐 서구를 초토화했던 흑사병 재앙을 들 수 있다. 당시 영국을 비롯해 여러 나라에서 인구가 3분의 1 이상 줄어 농부의 인건비가 상승함에 따라 비옥한 땅을 중심으로 경작이 이뤄졌다. 그 결과 식량 생산은 거의 변동이 없었던 반면 인구가 큰 폭으로 감소해 생존자들의 생활 수준이 크게 개선됐다. 그 결과 다시 인구가 증가하면서 종전과 같이 인구와 식량 간 경쟁이 재개됐다. 그러니 일시적으로는 맬서스 함정을 벗어난 것 같았지만, 결국 다시 함정에 빠지는 일이 반복됐다. 이것은 정체된 경제에서는 피할 수 없는 운명이었다.

4차 산업혁명이 진행 중인 지금 누구도 맬서스 함정을 우려하지 않는다. 그런데 최근 새로운 함정이 거론되기 시작했으니, 이른바 튜링 함정(Turing Trap)이다. 이 용어는 경제학자 에릭 브리뇰프슨(Erik Brynjolfsson)이 미국 예술·과학 아카데미의 오픈 액세스 저널 'Daedalus' 2022년 봄 호에 발표한 '튜링 함정: 인간 같은 인공지능의 가능성과 위험'이라는 글에서 처음 사용했다. 일찍이 1950년 앨런 튜링은 '모방 게임'을 제안하면서 인간과 같이 사고하는 지능을 가진 기계의 출현을 예측했다. 그 후 지금까지 인공지능 개발자들이 인간과 같은 지능을 가진 기계를 개발하는 데 매진한 결과 놀라운 성과를 내고 있다. 이런 속도라면 머지않아 모든 면에서 인간을 닮은 범용 인공지능이 등장할지도 모른다.

브리뇰프슨이 튜링 함정이라는 표현을 사용한 이유는 인공지능 연구가 처음부터 인간을 닮은 기계를 개발하는 쪽으로 방향을 잡은 데 문제가 있다고 진단했기 때문이다. 이런 기계는 자동화를 통해 인간을 대체할 것이기에 사회 전반에 엄청난 충격을 줄 것이 분명하다. 그래서 그는 자동화보다는 인간의 지능을 증강하는 방향으로 인공지능이 개발된다면 모두가 훨씬 더 나은 삶을 영위할 수 있다고 주장한다. 그렇지만 현재 인공지능 개발에 전력투구하고 있는 나라에서는 인공지능 엔지니어, 사업가, 정책 담당자에게 인간의 지능 증강보다는 자동화를 추진하는 쪽이 유리하도록 인센티브가 제공되고 있기에 방향 전환이 쉽지 않다는 것이다.

이런 상황에서 인공지능 통제 권한을 가진 소수는 막대한 권력과 부를 장악하게 될 것이고, 그러지 못한 다수는 무력한 상태에서 빠져나오지 못하는 균형이 지속될 가능성이 크다. 이것이 튜링 함정이다. 그런데 튜링 함정은 새로운 개념이라기보다는 이미 우리 기억에서 지워진 맬서스 함정의 새로운 버전으로 볼 수 있다. 식량이 인공지능으로 바뀌었을 뿐 대다수는 생존 수준에서 벗어날 수 없을 것이라는 점에서 차이가 없기 때문이다. 눈앞의 문제에만 관심을 가질 것이 아니라, 튜링 함정을 피하려면 무엇을 해야 할지 모두 고민해야 할 때다.

[이영환 동국대 경제학과 명예교수]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]