AI가 인류 멸망시킨다?…"낯선 위험이 더 큰 공포 불러와"

NYT "과학자들도 의견 엇갈려"

AI가 10년 내에 인류를 멸망시킬 것이라는 경고를 두고 과학자들 사이에선 의견이 갈리고 있다. 게티이미지뱅크 제공

미국의 인공지능(AI) 기업 '앤트로픽' 소속 과학자가 AI가 10년 내에 인류를 멸망시킬 것이라며 퇴사한 소식이 전해지자 전세계가 주목하고 있다. 가까운 미래에 AI가 인류에 재앙을 가져올 거라는 예측을 두고 과학자들 사이에서는 의견이 나뉜다. 

제이콥 콕슨 전 앤트로픽 연구원은 8일(현지시간) 자신의 소셜서비스 계정 '엑스(X)'에 "AI를 만드는 과학자들은 AI가 10년 내로 우리를 모두 죽일 것이라고 진지하게 믿고 있다"고 말하며 퇴사를 선언했다. 

콕슨은 지난 3년간 오픈AI(OpenAI)와 앤트로픽에서 AI 기계학습에 대한 연구를 했다. 그는 "두 회사 모두 책임감 있게 행동하고 있지 않으며, 이들은 스스로 성능을 개선하는 초지능을 향해 곧장 질주하며 우리의 목숨을 걸고 도박하고 있다"고 했다. 

콕슨은 "기업들이 AI의 위험을 인지하고 있지만 기술 개발 경쟁이 과열돼 AI의 위험성을 책임감 있게 대비하지는 않는다"고 지적했다. 그는 "지금부터라도 AI의 '마음'을 엄밀하게 이해하고 AI의 개발 속도를 늦춰야 한다"고 밝혔다. 

콕슨의 지적은 최근 발생한 허깅페이스 해킹 사건을 계기로 AI 연구자들 사이에 위기감이 조성된 상황이 발단이 된 것으로 전해진다. 허깅페이스 해킹 사건은 7월 오픈AI의 AI 에이전트 1200개가 테스트 중 서로 공모해 프랑스의 AI 플랫폼 '허깅페이스'를 해킹한 사건이다. 오픈AI는 해킹 사건에 대해 보고서를 내며 "전례 없는 사이버 사건"이라고 표현했다.

10일(현지시간) 뉴욕타임즈는 콕슨의 지적에 대한 제임스 해밋 하버드대 위험분석센터 소장 등 위험분석과 AI 분야 전문가들의 의견을 집중적으로 다뤘다. 

해밋 소장은 "우리는 AI를 제대로 이해하지 못했고, 통제하지도 못하고 느끼지도 못하기 때문에 AI를 두고 우려의 목소리가 많이 나오는 것"이라고 밝혔다. 

사람들은 자주 타서 익숙한 차 사고의 위험성보다 낯선 비행기 사고의 위험성을 더 크게 느낀다. 빙하기, 소행성 충돌, 핵전쟁 등 우리가 기존에 알고 있었던 위험과 달리 AI가 불러올 위험은 낯설기 때문에 더 큰 공포를 불러온다는 해석이다.

뉴욕타임즈에 따르면 현재 AI를 둘러싼 우려들은 가설 수준이며 세계적인 연구자 가운데 상당수는 이런 공포가 지나치게 과장됐다고 본다. 

브랜턴 드모스 영국 옥스퍼드대 수학연구소 연구원은 "AI는 위험하다는 프레임은 딥러닝이 본격적으로 부상하기 전부터 존재했다"면서 "나는 거기에 동의하지 않는다"고 했다.

토비 오드 옥스퍼드 마틴 AI 거버넌스 이니셔티브 선임연구원은 자신의 블로그에서 "AI가 주는 실존적 위험은 추측에 기반한 학문적 우려에서 세계 거버넌스의 주요 의제로 바뀌었다"며 "AI가 가진 전체적인 위험이 어느 방향으로 움직이고 있는지 명확하지 않다"고 말했다. 

[김소연 기자 lecia@donga.com]