“10년내 다 죽을 수도”… 美 일상 덮친 AI 종말론 공포

AI 위협에 대한 우려가 실리콘밸리 개발자 등 전문가 집단을 넘어 일반 가정, 기업에도 확산하고 있다./오픈AI

조시 고트하이머 미국 하원의원은 최근 뉴저지에서 딸의 필드하키 경기를 지켜보다 다른 학부모 두 명에게 뜻밖의 질문을 받았다. “인공지능(AI)에 도대체 무슨 일이 벌어지고 있는 건가요?”

미 하원 AI 위원회의 공동의장이자 AI 규제 법안을 추진해온 그에게 평소 AI에 큰 관심이 없던 학부모들까지 AI가 인간의 통제를 벗어날 가능성과 대책을 묻기 시작했다는 것이다. 고트하이머 의원은 “AI를 자세히 지켜보지 않던 사람들조차 이제는 ‘여기에 규칙이 필요하다’고 생각하기 시작했다”고 했다.

월스트리트저널(WSJ)은 11일(현지 시각) AI 기업 앤스로픽의 제이컵 콕슨 전 연구원이 최근 인간의 통제를 벗어난 AI가 문명을 파괴할 수 있다고 경고한 뒤, 관련 논의가 실리콘밸리와 온라인을 넘어 미국 일반 가정과 교회, 직장으로도 퍼지고 있다고 보도했다.

그동안 AI가 인류를 멸종시킬 가능성은 기술 업계 일부 전문가가 ‘파멸 확률’을 의미하는 ‘P(doom)’이라는 용어까지 만들어 논쟁하던 먼 미래의 이야기였다. 하지만 콕슨의 경고가 확산한 뒤 분위기가 달라지고 있다는 게 미국 현지 분위기다.

콕슨은 최근 앤스로픽을 떠나면서 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 “기업들이 통제할 수 없는 초지능을 향해 질주하며 우리의 목숨을 걸고 도박하고 있다”고 주장했다.

WSJ에 따르면 미 보안 업체 퀘스트소프트웨어의 한 임원은 80대 부모에게서 AI 보안 위험에 대한 질문을 받은 데 이어 집에서는 10대 자녀들과 “영화 ‘매트릭스’ 같은 세상이 오는 것 아니냐”는 대화를 나눴다고 했다. 개발자들의 전문적인 논쟁이 세대를 가리지 않고 일상의 불안으로 옮겨붙고 있는 것이다. 플로리다 마이애미의 한 목사는 교회 성경 공부 모임에서 신도들에게서 AI에 관한 질문을 잇달아 받았다고 한다.

이런 변화는 기업에도 영향을 미치고 있다. 의료기기 규제 관련 업무를 AI로 자동화하는 소프트웨어 기업 케트릭스는 최근 고객의 절반가량이 먼저 AI 안전 문제를 꺼냈다고 밝혔다. 의료 분야에서 AI의 오류가 잘못된 약물 투여나 데이터베이스 해킹 같은 사고로 이어질 수 있다는 우려가 나오자 회사는 위험 관리 시스템 전반을 다시 점검하기로 했다.

다만 AI가 실제 인류를 멸종시킬 수 있다는 주장은 여전히 업계의 주류 견해는 아니라는 지적이다. WSJ는 “샌프란시스코 지역 기업 최고경영자(CEO) 10여 명을 만난 한 투자자에 따르면 AI 위협을 심각하게 받아들이는 경영자는 거의 없었다”면서도 “다만 AI가 인간의 개입 없이 더 많은 일을 수행하는 방향으로 빠르게 발전하면서 실리콘밸리 내부의 오래된 ‘AI 멸종론’이 일반 가정과 기업까지 논의되는 현실적인 위험 문제로 옮겨가고 있다”고 전했다.