구글 딥마인드 퇴사 직원도 “AI가 우리를 죽일 수 있다” 경고

빌랄 추그타이 엑스 갈무리.

최근 구글 딥마인드를 떠난 인공지능(AI) 연구원이 “AI가 우리를 죽일 수 있는 잠재력을 지녔다”고 경고하고 나섰다. 앤트로픽의 AI 개발자가 ‘내년 말이면 AI가 통제 불능에 빠질 수 있다’며 회사를 떠난 데 이어, AI 개발을 이끌어온 내부자들의 우려가 잇따르고 있다.

구글 딥마인드에서 AI 연구원으로 일하다 지난 7월 퇴사한 빌랄 추그타이는 14일(현지시간) 자신의 엑스에 “구글에서 AI 개발이 이뤄지는 과정을 직접 지켜봤고, 나 역시 이 기술이 향하는 기본 방향에 대해 극도로 우려한다”며 “AI가 우리를 죽일 수 있는 잠재력을 지녔고, 그 시간이 얼마 남지 않았다고 진심으로 믿고 있다”고 썼다.

그는 구글 딥마인드에서 AI 일반화(AGI)의 안전성과 정렬 관련 연구를 담당했다고 소개했다. 정렬 연구는 AI가 인간의 의도와 가치에 맞게 작동하도록 하고, 인간에게 위협이 될 수 있는 행동을 하지 않도록 통제하는 기술을 말한다.

추그타이는 “AI 기업들이 앞으로 수년 안에 인간의 능력을 모든 분야에서 뛰어넘는 초지능 AI를 개발할 가능성이 있다고 본다”며 “그러나 AI가 인간이 의도한 대로 행동할 것이라고 장담하기는 어렵다. 인류가 영구적으로 주도권을 잃거나, 최악의 경우 인류의 죽음으로 이어질 수 있다”고 경고했다.

이어 “AI를 안전하게 다루는 것이 불가능한 것은 아니지만, 이를 위해서는 과열된 AI 경쟁을 멈추기 위한 협력이 필요하다”며 “AI 개발 투명성을 높이고 AI가 인류에 이롭게 작동하도록 신중하게 고민하는 사람들이 훨씬 더 많아져야 한다”고 촉구했다.

최근 AI 개발의 안전성과 속도를 둘러싼 논쟁이 업계와 정치 전반으로 번지고 있다. 이달 초 앤트로픽의 AI 개발자 제이콥 콕슨도 회사를 떠나면서 앤트로픽과 오픈AI를 겨냥해 “우리의 목숨을 걸고 도박하고 있다”며 “초지능 AI를 향해 질주하고 있다”고 비판했다. 그는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 주장했다.

AI 기업 경영진 사이에서도 속도 조절론이 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 성명을 통해 AI 개발 속도를 조절할 필요가 있다고 촉구했다. 오픈AI의 샘 올트먼과 스페이스X의 AI 사업을 이끄는 일론 머스크도 이에 지지 의사를 밝혔다.

한편 도널드 트럼프 미국 대통령은 이러한 경고에 대해 AI 업계의 규제 요구가 “사기”라고 일축했다.

백민정 기자 mj100@kyunghyang.com