"AI가 사람 지배…돌아올 수 없는 강 건넜다"

기사내용 요약
맥길대 석좌교수 미 매체 기고문에서 주장
'실수는 사람이 하는 것'으로 기계가 판단하면
돌이킬 수 없다…전세계적 정치적 대처 시급

[보스턴=AP/뉴시스] 영국 신재생에너지기업 '옥토퍼스에너지'에서 인공지능(AI)이 회사에서 250명 분의 작업을 수행하고 있다고 미국 인사이더는 지난 9일(현지시간) 전했다. 사진은 유명 인공지능 챗봇인 챗(Chat)GPT'를 사용하는 장면. 2023.05.11. *재판매 및 DB 금지

[서울=뉴시스] 강영진 기자 = '기술 특이점 이론'은 인간이 기술에 대한 통제력을 잃고 기계가 의식을 가지면서 인간을 지배하는 시기가 온다는 주장이다. 캐나다 맥길대 석좌교수 모리치오 가오나 교수는 15일(현지 시간) 미 의회 전문매체 더 힐(THE HILL)에 기고한 글에서 그같은 변화가 이미 시작됐다고 주장했다. 다음은 기고문 요약.

자가운전, 비침습적 치료, 건축, 자동무기, 안면인식, 원격 생산, 증시 예측 등 많은 산업의 미래가 감독받지 않는 인공지능(AI) 학습의 발전에 좌우되도록 돼 있다.

AI가 인간의 일자리를 빼앗을 것이라는 경고가 기술 발전에 따른 변화에 불과하다고 매도된다.

그러나 앞으로 수년 내 기계가 기본적 자율성을 갖게 되면 스스로 문제를 해결해 더 나은 결과를 생산할 수 있게 돼 인간의 능력을 뛰어넘게 될 것이다.

AI 개발자들은 기술 특이점 이론을 부정하면서 AI가 인간에 봉사하고 생산성을 높일 것이라고 주장한다.

이들의 주장에는 두 가지 문제점이 내재돼 있다. 우선 기술 특이점은 특정 시점이 아닌 일련의 과정이며 특정 분야에선 이미 기술특이 변화가 이미 시작됐다는 점이다. 둘째 기계의 독립성을 발전시키면서 사람이 기계에 더 의존하도록 하면 기계는 더 똑똑해지는 반면 사람은 덜 똑똑해진다는 점이다.

AI는 인간이 갖지 못한 무제한적 기억 능력과 엄청나게 빠른 처리 능력, 감정을 배제한 의사 결정 등의 능력을 갖도록 개발된다. 그런데도 인간은 이들의 생산물을 인간이 통제할 수 있을 것으로 믿는다. 극히 소수 국가에서만 이런 개발이 진행되면서 지적재산권 보호 및 국가 안보를 이유로 법률적 보호를 받는 상황에서 AI 발전을 통제할 수 있다는 생각은 환상일 뿐이다.

기계의 자의식은 아무런 감독도 없이 이뤄지는 학습 과정에서 형성된다. 양자 기술이 적용되면 AI의 특이점이 한층 가속화할 것이다.

챗GPT나 바드 등 AI는 이미 인간보다 더 나은 능력을 보이고 있다. 이미 돌아올 수 없는 강을 건너는 과정에 있는 것이다.

전세계가 정치적으로 대처해야 할 때가 이미 닥쳤다. AI 생산국이나 비생산국 모두 함께 기술 감독 국제 기구를 만들고 AI에 적용할 기본 윤리 원칙을 제정해야 한다.

AI의 기술 특이점이 인간이 투입하는 정보에 의존하지 않고 자체 결함을 수정하는 순간이 돼야 도래한다는 생각은 크게 위험하다. 기계가 실수는 사람이 하는 것이라는 식으로 인간을 인식하는 순간 AI의 기술 특이점은 돌이킬 수 없게 된다.

☞공감언론 뉴시스 yjkang1@newsis.com