"인간 능가할 AI 통제 위해 강제종료 위한 스위치 필수"

범용인공지능 시대
소유자가 법적 책임 지게끔
로봇에 라벨 붙여 추적 필요

10일 'AGI, 공존지능의 완성' 세션에서 장야친 칭화대 AI산업연구원 창립원장 겸 AI 석좌교수(가운데)가 올리비에 델렌바흐 챕스비전 창업자 겸 회장(오른쪽), 이문태 LG AI연구원 초지능랩장과 토론하고 있다. 김호영 기자

범용인공지능(AGI) 시대에는 시스템 오작동을 막기 위한 킬 스위치(인간이 인공지능(AI)을 강제 종료하는 메커니즘)와 AI 간 상호 견제 장치 등을 마련해야 한다는 주장이 나왔다. 인간의 AI 통제권 확보를 위해서다.

10일 서울 중구 신라호텔에서 열린 제27회 세계지식포럼 'AGI' 세션에 참가한 연사들이 인간의 통제권 유지 방안과 AGI 도달 시점 등에 대해 논의하며 이같이 밝혔다. 이날 토론은 이문태 LG AI연구원 초지능랩장이 사회를 맡았고, 장야친 칭화대 AI산업연구원 창립원장 겸 AI 석좌교수와 유럽판 팰런티어로 불리는 챕스비전의 올리비에 델렌바흐 창업자 겸 회장이 연사로 참석했다.

장 교수는 AGI를 디지털 AI, 피지컬 AI, 바이올로지컬 AI 등 세 영역으로 나눠 설명했다. 그는 "대부분의 과업에서 기계가 인간을 능가하는 것"이라며 "세 영역에 속하는 과업의 99%에서 인간 99%를 능가하는 상태"라고 설명했다. 델렌바흐 회장은 AGI의 핵심을 인간의 뇌와 같은 '일반화'와 '적응력'으로 봤다. 그는 "훈련받지 않은 새로운 상황에 대응할 수 있어야 진정한 AGI"라고 말했다. AGI의 정의와 함께 도달 시점에 대한 진단도 다뤄졌다. 장 교수는 "디지털 AI는 이미 상당히 근접했고 물리적 세계에서는 10~12년간 데이터를 축적한 자율주행차가 가장 먼저 도달하겠지만, 데이터가 파편화된 가정용 휴머노이드 로봇은 약 10년, 생물학적 AI는 약 20년이 걸릴 것"으로 내다봤다.

장 교수는 AGI 시대에 인간의 통제권을 유지하기 위한 구체적인 기술적·제도적 장치를 제시했다. 그는 "모든 AI는 인간을 보조하는 시스템이며 독자적인 정체성을 가져서는 안 된다"면서 "로봇이나 디지털 비서에 라벨을 붙여 법적·사회적 책임이 소유자에게 추적되도록 해야 한다"고 말했다. 이어 "인간이 최종 통제자로 남기 위해 모니터링·추적·감사 체계와 샌드박스, 플러그를 뽑거나 멈출 수 있는 킬 스위치가 필수"라고 강조했다.

[양세호 기자]