경쟁 가속화시킬 ‘AI의 역설’ 초국적 기업 규제해야

게티이미지뱅크

[왜냐면] 조성익 | 한국직업능력연구원 부연구위원

챗지피티(ChatGPT)가 촉발한 생성형 인공지능(AI)에 대한 폭발적 관심은 기술에 의한 개인정보 보호, 책임성과 같은 윤리적 원칙의 훼손에 대한 우려를 제기한다. 그래서 인공지능 기술에 대한 인간의 통제와 책임 부여가 핵심적 윤리 원칙으로 강조되고 있다.반면 지식의 창출과 학습의 측면에서 인공지능이 미치는 영향과 그 사회적 조건은 상대적으로 덜 주목받고 있다.

존재하는 정보를 연결하고 결합하는 알고리즘은 지식을 창출하고 활용하는 새로운 사회적 규범을 제시한다. 인공지능 이전에 지식의 창출은 수고로움을 동반하는 학습을 통해서 이뤄졌고, 이 과정에서 인내와 관용의 가치를 배우게 된다.새로운 지식에 부여된 ‘정통성’은 이러한 사회적 규범과 가치에 기반해 정당화됐다. 그러나 알고리즘을 매개로 한 학습과 지식의 창출은 사회적 규범과 가치를 효율성과 편리함으로 대체한다. 인공지능이 제공하는 지식의 ‘정통성’은 단축된 전산처리 시간으로 측정되는 편의성과 효율성의 경제적 가치로 대체된다. 새로운 학습과 지식 창출의 규범은 집단적 타협과 협력보다는 경쟁에 더 유리한 지식 생산과 소비 방식을 만들어 낸다.

그 결과는 경쟁의 가속화다. 인공지능이 인간의 일자리를 대체함으로써 대량 실업과 소득 불평등을 초래할 것인가의 문제가 지금까지 인공지능에 대한 대표적인 사회적 근심이었다. 하지만 ‘인간 대 기계냐’, ‘인간과 기계의 협력이냐’로 대표되는 시각들은 학습과 지식 창출이라는 측면에서 적합해 보이지 않는다. 그보다는 로봇에 의존하든 로봇과 협업하든,개인 간 고립된 경쟁의 심화와 학습·지식 창출 과정에서 집단적 타협·협력의 감소가 더 중대한 문제로 보인다. 요컨대, 인공지능이 더 많은 편리함과 동시에 더 많은 경쟁을 가져올 수 있다는 ‘인공지능의 역설’이다.

인공지능의 역설은 인공지능 기술 자체의 속성으로부터 기인하는 것은 아니다. 사실 인공지능의 역설을 주도하는 것은 초국적 거대 인공지능 기업들이다. 현재의 인공지능 기술로는 완전한 자율성을 실현하는 것이 어려움에도 불구하고, 사회의 관심은 이상하게도 마치 완전한 자율성을 가진 인공지능에 어떻게 책임을 부여할 것인가에 집중해 있다. 하지만 인공지능 기술 개발을 향한 무분별한 경쟁의 기저에는 효율성과 수익성 제고를 추구하는 동기 못지않게 새로운 학습과 지식 창출의 규범을 만들고 정상화시킴으로써 지식을 독점하려는 자본의 동기가 있다.

우리는 예전에 지식 독점을 향한 초국적 기업의 움직임을 경험한 적이 있다. 그때는 실패했지만, 다시 새로운 방식으로 나타나고 있다. 1980년대 중반 마이크로소프트는 엔카르타라는 웹 기반 백과사전을 만드는 데 막대한 자본을 투자했다. 소수의 편집자와 저명한 학자들을 참여시킴으로써 지식의 정통성을 확보하고, 상품화를 시도하였다. 하지만 그 당시 더 민주적이고 효과적인 방법에 의해 지식의 창출과 학습을 가능하게 한 플랫폼, 즉 위키피디아가 출현함으로써 마이크로소프트의 시도는 좌절했다.

이제 마이크로소프트는 챗지피티라는 더 강력한 무기를 들고 돌아왔다. 집단적 지식형성과 학습을 초개인화된 지식의 소비와 창출로 대신하는 알고리즘의 제공이다. 그리고 편리함과 신속성을 내세워 학습과 지식 창출의 규범을 만들고 상품화를 시도하고 있다. 이런 의미에서 과거의 지식 상품화 시도는 경제적 전략이었다면, 현재의 시도는 학습과 지식 창출의 새로운 사회적 규범과 가치를 형성하고 상품화한다는 점에서 사회·정치적 전략이라고 할 수 있다. 이들의 시도가 성공한다면, 소수의 초국적 정보기술(IT) 기업들은 전례 없는 경제·사회·정치적 힘을 갖게 될 것이다.

경제학자인 칼 폴라니(1886~1964)는 상품화할 수 없는 토지, 인간의 노동, 화폐에 대한 상품화를 비판하면서 시장에 맡기기보다는 적절한 사회적 제도를 통한 규제의 필요성을 강조했다. 지식 역시 상품화하고 독점되도록 내버려 두기보다는 보다 폭넓게 접근하고 활용할 때, 전체 사회에 대한 혜택이 더 크다. 인공지능 기술 개발 경쟁이 보다 폭넓게 사회에 기여하기 위해서는 적절한 사회적 보호장치들이 필요하다. 게다가 사회적 보호장치와 제도의 형성은 기술 개발보다 훨씬 더 많은 시간을 필요로 한다.

인공지능 기술이 가진 잠재적 능력이 이전의 정보기술보다 포괄적이라는 점에서 불확실성 역시 그만큼 크다. 기술의 무한한 잠재력과 사회에 가져올 효과를 판단할 때, 그 뒤에 있는 경제적 힘과 사회적 조건들을 보다 신중하게 살펴봐야 한다.