“한계없는 AI, 소설 ‘1984’ 속 통제사회 만들수도”…노벨상 수상자들의 경고

인공지능(AI) 기계 학습의 기초를 닦은 공으로 올해 노벨물리학상을 공동 수상한 존 홉필드 미국 프린스턴대 명예교수. 프린스턴대 제공

“인공지능(AI)이 세상의 모든 정보와 결합하면 조지 오웰의 소설 ‘1984’가 그렸던 통제사회가 현실화할 가능성을 배제할 수 없다.”

AI 발전의 초석을 마련한 공으로 올해 노벨 물리학상 수상자로 선정된 존 홉필드 미국 프린스턴대 명예교수(91)가 인간의 이해 범위를 벗어나는 AI가 개발될 것에 우려를 표하는 수상 소감을 내놨다.

홉필드 교수는 챗GPT 같은 생성형 AI 모델이 개발될 계기를 마련했다는 평을 듣는 인공신경망 모델 ‘홉필드 네트워크’를 발명해 노벨상을 수상했다. 그런 그조차 AI가 가져올 ‘장밋빛 미래’ 대신 ‘위협’을 강조한 셈이다. 올해 홉필드 교수와 노벨 물리학상을 공동 수상한 ‘AI 석학’ 제프리 힌턴 캐나다 토론토대 교수 역시 AI의 위험을 우려하는 수상 소감을 내놨다.

홉필드 교수는 8일(현지 시간) 프린스턴대가 개최한 노벨상 수상 소감 온라인 기자회견에서 “물리학자로서 통제할 수 없고 한계를 파악할 수 없는 AI 기술 발전에 큰 불안감을 느낀다”고 밝혔다.

특히 AI의 발전이 되레 인간의 자율성과 충돌할 수 있다고 지적했다. 그는 “AI는 작동 원리를 이해할 수 없는 경이로운 기술로 여겨지고 있지만 바로 이 경이로움 때문에 불안감을 느낀다”고 했다. AI가 상상할 수 없는 높은 수준에 도달할수록 인간이 그 작동 원리를 이해하기 어려워질 것이란 의미다. 홉필드 교수는 “인간이 원하지 않았던 무언가가 AI 작동 방식의 이면에 포함돼도 (우리가) 알 수 없게 될 것”으로 우려했다.

또한 그는 인간의 이해 범위를 벗어난 AI의 잠재적인 위협을 커트 보니것의 소설 ‘고양이 요람’에 등장하는 가상 물질 ‘아이스나인’에도 비유했다. 이 소설은 군사 목적으로 개발된 ‘아이스나인’ 때문에 지구의 물이 모두 얼어붙고 결국 모든 생물이 멸종한다는 내용을 담고 있다.

힌턴 교수 또한 수상 직후 노벨위원회와의 전화 인터뷰에서 “AI가 인류에게 생산성 향상과 생존 위협을 동시에 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”는 소감을 내놨다. 특히 그는 대형 정보기술(IT) 기업이 AI가 가져올 위험을 통제하기 위해 더 많은 노력을 쏟아야 한다고 촉구했다. 그는 한 때 구글의 AI 개발을 주도했지만 지난해 AI의 위험성을 경고하며 구글과 결별했다.

힌턴 교수 역시 AI의 잠재 위험이 기후 변화가 초래한 위기와 맞먹는다고 우려했다. 그는 “우리가 AI를 통해 무슨 일이 벌어지고 있는지, 무엇을 해야할 지에 관해 알고 있는 것이 매우 적다”며 “수년 안에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다”고 지적했다.

이청아 기자 clearlee@donga.com