무기 악용땐 인류 위협…알고리즘 위험성 국제기준 필요

로봇 두려워할 필요 없지만
이용자 의도따라 악용 위험
산업육성·규제 '균형점' 찾아야

구글과 오픈AI 등을 중심으로 본격적으로 대규모언어모델(LLM)을 로봇에 접목시키는 시도가 이어지면서 AI로봇 기술 진화 속도에 맞춘 규제에 대한 논의도 본격화할 것으로 보인다.

지난해 11월 챗GPT 등장과 함께 생성형AI 부작용이 뜨거운 감자로 부상했듯이 AI로봇 분야에서 상용화에 가까워질수록 위험성에 대한 논란이 일 가능성이 높다는 분석이다.

루카 칼론 MIT 교수는 "다른 인터넷 애플리케이션과 달리 (로봇에 접목되는) AI알고리즘의 실패는 사람의 생명을 위험에 빠뜨릴 수 있다"며 "AI알고리즘이 로봇에 어떻게 구현돼야 하는지를 살펴보고 안전을 보장할 수 있는 방법을 반드시 설계해야 한다"고 강조했다.

생성형AI 로봇을 통해 AI의 영향력이 온라인 공간을 넘어 물리적 세계로 확장될 수 있는 만큼 위험성을 최소화하는 국제기준이 필요하다는 주장이 힘이 얻고 있다. 물리적 보안, 사이버 보안, 국가 보안 등 중요한 형태의 AI로봇에 대해선 라이선스가 필요하다는 의견도 나온다. 김주형 일리노이대 교수는 "최근 미국에선 군사 용도로 쓰이는 AI로봇을 어떻게 관리할 것이냐가 가장 큰 화두로 떠올랐다"며 "로봇에 지능이 생겨서 인간을 해치는 것보다 이용자(사람)의 의도에 의해서 (로봇이) 공격성을 띨 수 있다는 점이 더 큰 위험이고 이와 관련해서 규제가 이뤄질 것으로 보인다"고 말했다.

관련 업계에서도 자체적으로 새 기술에 대한 위험 관리에 나선 상황이다. 지난해 10월 세계적인 로봇 기업들이 로봇을 무기화하지 않겠다고 선언했다. 현대자동차가 인수한 보스턴다이내믹스를 비롯해 애질리티로보틱스, 오픈로보틱스(미국), 클리어패스로보틱스(캐나다), 애니보틱스(스위스), 유니트리(중국) 등 로봇 기업 6곳은 공동 서명한 공개 서한에서 "고도의 이동 로봇이 속속 등장하면서 로봇 악용 가능성이 제기되고 있다"면서 "특히 걱정하는 것은 (로봇의) 무기화"라고 강조했다. AI로봇을 두고 일각에서는 '전쟁 기계(War-Fighting Machine)'로 진화해 인류의 위협이 될 수 있다는 우려가 커지자 선제적 조치에 나선 것으로 풀이된다.

이와 관련해 전문가들은 '무인화'로 향하고 있는 AI로봇 기술의 큰 흐름이 대세가 될 수밖에 없기 때문에 산업 육성과 규제의 균형점을 찾아야 한다고 입을 모은다. 사람들이 하기 싫어하고 인력을 뽑기 어려운 일이 우선 로봇으로 대체될 것이고 궁극적으로는 효율성을 높여 사회 전반에 더 많은 일자리를 창출할 것이라는 긍정적인 효과를 살리면서 부작용을 막아야 한다는 주장이다. 데니스 홍 UCLA 교수 겸 로멜라 로봇연구소장은 "로봇에 대해 두려워할 필요가 없다"면서 "로봇은 결국 인간이 하기 싫거나 할 수 없는 일을 해주는 따뜻한 존재"라고 강조했다.

이미 로봇시장을 둘러싸고 강대국들은 총성 없는 기술 전쟁을 벌이고 있다. 로봇 분야에서 가장 앞서가는 미국과 중국(G2)은 '로봇 패권'을 선점하기 위해 공격적이고 발 빠르게 움직이고 있다. 특히 이들 국가는 제조, 의료, 우주, 물류 등 산업 영역은 물론 군사·안보와도 밀접한 로봇을 국가 경쟁력과 직결되는 '전략자산'으로 보고 있다. 특히 성장이 멈춘 선진국의 경우 저출산에 따른 일손 부족, 인건비 상승 흐름 속에서 로봇을 제조업을 혁신시킬 핵심 기술로 주목하고 있다.

한편 유럽연합(EU)은 올해 안에 AI 규제법을 입법 완료할 계획이다. 일각에서는 AI 규제안에 로봇에 대한 규제 방안이 함께 담겨야 한다는 목소리도 나온다. 미국 비영리단체인 AI안전센터는 성명을 통해 "AI로 인한 인류 절멸의 위험성을 낮추는 것은 전염병과 핵전쟁에 준하는 수준으로 글로벌 차원에서 우선순위로 삼아야 한다"고 밝힌 바 있다.

[황순민 기자 / 이상덕 기자]