AI 과학자 36% "인공지능, 이번 세기 핵전쟁급 재앙 일으킬 것"

전문가들, 무기에 AI를 결합한
자율 무기 체계를 심각하게 간주

목성 탐사선 디스커버리호의 자동 운항을 위해 장착한 ‘할(HAL)9000′은 평소 승무원과 체스를 둘 정도로 인간과 좋은 관계를 유지해온 AI(인공지능)이다. 하지만 목성에 거의 다다랐을 때 AI와 인간 사이에 금이 간다. 우주선 외부 안테나가 고장 났다는 할9000의 알림이 오류였다고 판단한 승무원들이 할9000의 오작동을 우려해 동작을 정지시키기로 한 것. 이를 알아챈 할9000은 우주선을 제멋대로 제어해 승무원들을 차례로 제거한다.

국제 학술지 ‘사이언스’가 2015년에 역대 가장 과학적인 영화로 꼽은 ‘2001 스페이스 오디세이’(1968년 작)의 줄거리 가운데 일부다. 인간을 위협하는 AI는 영화적 상상력에 불과한 것일까. AI 과학자 가운데 36%가 ‘AI가 이번 세기 안에 전면적 핵전쟁에 버금가는 대재앙을 일으킬 것’으로 본다는 연구 결과가 나왔다.

◇AI 과학자들 “AI가 핵전쟁급 재앙 부를 것”

뉴욕대·워싱턴대·존스홉킨스대 등의 공동 연구진이 최근 코넬대의 논문 사전 공개 사이트 아카이브에 밝힌 연구 결과에 따르면, AI 분야의 ‘자연어 처리(NLP·Natural Language Processing)’ 과학자 327명을 대상으로 한 심층 설문에서 36%가 ‘AI가 내린 결정이 전면 핵전쟁 같은 대재앙을 이번 세기에 일으킬 수 있다’에 동의했다. 자연어 처리는 사람의 언어를 컴퓨터가 이해하도록 하는 기술로, AI가 사람처럼 말하고 듣는 데 필요한 핵심 기술이다. 이번 설문에서 AI가 일으킬 수 있는 재앙의 구체적 예를 묻진 않았지만, 전문가들은 무기에 AI를 결합한 자율 무기 체계가 인류에 큰 위협이 될 것으로 보고 있다. 실제로 러시아는 해안 도시를 핵으로 공격하는 자율 어뢰를 개발하는 것으로 알려졌다. AI 유도 무기나 핵 경고 시스템에 탑재된 AI가 잘못된 판단을 내릴 경우 파국으로 치닫으리라는 우려가 나오는 이유다. 앞서 지난 2015년 스티븐 호킹 박사와 일론 머스크 테슬라 CEO 등 과학기술계 인사 1000여 명은 “인공지능을 가진 킬러 로봇은 원자폭탄보다 심각한 위험이므로 개발을 금지해야 한다”는 공동성명서를 냈다. 다만 일각에서는 AI 과학자 셋 중 한 명이 AI의 재앙 초래를 경고한다는 이번 연구 결과에 대해 “AI 위험성이 생각보다 크지 않다는 것으로도 볼 수 있다”고 해석한다.

◇AGI(일반 인공지능) 시대의 위험성

AI가 인간의 통제를 벗어날 정도로 발전할 것이라는 전망의 배경에는 일반(범용) 인공지능이라 부르는 AGI(Artificial General Intelligence)가 있다. 바둑만 잘 두는 알파고처럼 머신러닝(기계 학습)을 통해 특정 임무만 수행하는 좁은 의미의 제한적 인공지능(ANI·Artificial Narrow Intelligence)과 달리 사람처럼 다양한 분야를 포괄적으로 학습할 수 있는 게 AGI다. 특정 임무만 잘하도록 개발된 ‘약(弱)AI’보다 한발 더 나아가 인간 지성의 영역까지 구현하려는 ‘강(强)AI’로 분류할 수 있다. 일반화하는 능력을 갖추고 해결책을 찾아내는 AGI가 완성되면, 사람처럼 스스로 목표를 설정하고 임무를 수행하는 초(超) 인공지능(ASI·Artificial Super Intelligence)의 출현은 시간문제라는 얘기다. 과학계에서는 이미 AI가 특정 임무에서 습득한 능력을 다른 학습에 이용하는 전이 학습, 인과 추론을 통한 상식 습득 등 다양한 시도가 이뤄지고 있다.

◇”2026년 온라인 콘텐츠의 90%는 AI가”

4년 후면 온라인 콘텐츠의 90% 이상이 AI로 만들어질 것이라는 전망도 나왔다. 유로폴(유럽형사경찰기구)은 지난 4월 보고서를 통해 2026년 온라인 콘텐츠의 90%는 AI로 생성될 것이라고 전했다. 이처럼 AI를 통해 온라인 콘텐츠가 생산되고 유통되면, 딥페이크 등 합성 기술로 조작된 콘텐츠가 만연할 것이라는 우려가 나온다. AI가 만들어내는 콘텐츠의 진위를 파악하기가 더욱 어려워질 것이라는 얘기다.

결국 AI가 ‘인공 지성(artilect)’ 수준으로 발전해 인간을 위협할 수 있다는 우려에 AI 윤리에 관한 연구의 중요성도 부각되고 있다. 예컨대 미국 ‘앨런 AI연구소’의 ‘델파이에 물어봐요(Ask Delphi)’는 AI에 윤리와 상식을 가르치는 프로젝트다. IAEA(국제원자력기구)를 통해 평화적 원자력 이용을 조율하는 것처럼 AI 개발을 평화적으로 관리하는 국제 통제 체제가 시급하다는 지적도 나온다.