[매경이코노미스트] 오펜하이머와 핵무기, 그리고 AI

오펜하이머는 핵 겁냈지만
결국 인간이 통제하게 돼
AI 너무 겁낼 필요도 없고
그렇다고 방관해서도 안돼

최근 개봉한 영화 '오펜하이머'는 인류를 절멸시킬 수도 있는 핵무기의 개발을 성공시킨 물리학자의 고뇌를 조명하고 있다. 이 영화는 개봉 전부터 화제가 됐는데 시사회가 주요 배우들의 불참으로 파행됐기 때문이다. 43년 만에 이루어진 할리우드 배우조합의 파업 때문인데 AI로 인한 배우들의 실직과 초상권 침해 가능성에 대한 반발이 주요 원인이었다.

좋건 싫건 세상은 AI로 인한 소용돌이에 빠져들고 있다. 지금 순간에도 AI의 발전과 응용 서비스의 확장은 계속되어 몇 달 후를 전망하기 어려울 정도다. AI가 어떤 방향과 수준까지 발전할지는 불확실하다. 그러나 AI가 인류에게 엄청난 가능성과 과제가 되리라는 점은 누구도 부정하지 않는다. AI를 인류 생존의 위협 요인으로까지 보는 이들도 많다. AI의 대부인 제프리 힌턴 교수는 평생의 AI 연구를 후회한다고까지 말한다. 이쯤 되면 핵폭발을 보며 고뇌에 빠진 오펜하이머가 연상되어도 이상하지 않다.

그러나 AI가 인류를 멸망시킬 가능성은 매우 낮다. AI가 인간의 도구인 동안에는 아무리 강력하더라도 그 자체로는 위협이 되지는 않는다. AI는 인쇄술이나 전기에 비유되곤 한다. 잘못 사용하면 문제가 되지만 도구 자체를 두려워할 이유는 없다. 인류가 유용하지만 위험할 수 있는 도구를 잘 관리할 능력이 있음은 칼이나 총, 심지어 원자력을 보더라도 알 수 있다.

AI가 더 이상 인간의 통제가 필요하지 않은 일반지능까지 갖추게 되면 어쩌냐고 물을 수 있다. 그 자체로 상상의 영역이지만 AI가 자율성을 가진다고 인류에 위해를 가할 이유가 있을지는 의문이다. 그보다는 인류를 다양한 위기로부터 구해낼 가능성이 더 크다. AI가 일반지능을 얻게 된다면 그 자체가 인류를 위한 방향의 기술 발전이 누적된 결과일 것이기 때문이다. 자율성을 얻는다고 갑자기 정반대로 나아갈 것으로 보는 것은 억측이다.

한편, 좀 더 현실적 우려 중에는 AI가 생산성을 너무 빨리 높일 거라는 주장과 반대로 별로 높이지 못할 거라는 주장이 있다. AI가 대량실업을 일으킨다는 주장은 생산성을 너무 빨리 높인다는 말을 다르게 표현했을 뿐이다. AI가 생산에 드는 비용을 낮출수록 사람을 대체할 가능성도 커지기 때문이다. 반면, AI의 생산성 향상 효과가 기대보다 낮다면 막대한 투자를 이어가는 보람이 없다. 다행히도 서로 반대인 두 결과가 동시에 나타날 수는 없다. 그리고 만약 고를 수 있다면 생산성 향상이 빠른 쪽이 더 낫다. 우리의 생활 수준을 높이려면 생산성 향상이 꼭 필요하기 때문이다. 생산성 향상이 너무 빠르면 적응도 힘들어지지만 이는 좋은 뉴스에 딸려 오는 문제일 뿐이다. 기술의 확산과 적응 과정이 원활하지 못해 생산성 향상을 이루지 못한다면 더 나쁜 뉴스가 될 것이다.

AI에 대한 공포는 과도한 측면이 있다. 아이러니하게도 그래서 AI 핵심 기술 보유의 전략적 의미는 더 커지고 있다. AI의 위험이 핵무기 못지않다고 보는 이들은 기술 발전을 억제하고, 핵심 기술의 소유권이나 사용 방식을 통제해야 한다고 주장한다. 핵 확산을 억제하는 IAEA와 유사한 기구의 설립까지 논의되는 실정이다. 그러나 이왕 핵무기와 비교한다면 역사를 되돌아볼 필요도 있다. 핵 개발 중단을 주장한 오펜하이머의 외침은 소련의 핵무기 개발로 금세 무의미해졌다. 소련의 붕괴 이후 핵 보유를 포기한 우크라이나는 러시아가 침공하자 외세에 호소할 수밖에 없었다.

AI의 발전 속도를 볼 때 우리에게 주어진 시간은 많지 않아 보인다. 섣부른 우려로 규제부터 양산하거나 기술 발전의 책임을 민간 기업에만 맡기고 방관하기에는 중요성이 너무 크다.

[권남훈 건국대 경제학과 교수·경제사회연구원 원장]