‘알파고 쇼크’ 지켜본 수학천재 “AI가 10년내 인류 죽일 수도”

지난 16일(현지시간) 영국 런던 중심부 다우닝가 앞에서 시민행동단체 ‘포즈AI UK(PauseAI UK)’가 개최한 ‘긴급 시위’에서 참가자들이 손팻말과 현수막을 들고 있다. 이번 시위는 인공지능(AI) 연구자 제이컵 콕슨이 업계를 떠나기로 했다는 소식이 전해진 뒤 열렸다. AFP=연합뉴스

인공지능(AI)이 10년 안에 인류를 멸망시킬 수 있다고 경고하며 상장을 앞둔 앤트로픽을 떠난 27세 연구원 제이컵 콕슨을 미 월스트리트저널(WSJ)이 17일(현지시간) 집중 조명했다. 국제수학올림피아드 메달리스트 출신인 콕슨은 10대 시절 알파고가 세계 최정상급 바둑기사 이세돌을 꺾는 모습을 지켜보며 AI의 잠재력을 실감한 수학 천재라고 WSJ은 보도했다.

영국 출신인 콕슨은 불과 일주일 전까지만 해도 실리콘밸리에서 거의 알려지지 않은 연구원이었다. 그러나 앤트로픽을 떠난 뒤 AI의 위험성을 경고하는 글을 잇달아 공개하면서 세계적인 AI 규제와 개발 속도 조절 논쟁의 중심에 섰다.

그는 샌프란시스코의 AI 안전 옹호자 커뮤니티에서도 주요 인물은 아니었다. 주변 친구들 역시 콕슨이 윤리적 이유로 AI 기업을 떠날 가능성이 크다고 예상하지 않았다고 WSJ은 전했다.

━

수학올림피아드 메달리스트…알파고 승리에 충격

중세 독일문학 교수의 아들로 태어난 콕슨은 10대 때부터 수학에 두각을 나타냈다. 고교 시절 국제수학올림피아드 영국 대표로 선발됐고 2016년과 2017년 대회에서 각각 은메달과 동메달을 따냈다.

AI의 가능성을 본격적으로 인식한 계기는 2016년 ‘알파고 쇼크’였다. 구글 딥마인드의 알파고가 이세돌을 꺾는 모습을 지켜본 그는 기계가 인간의 직관과 창의성이 필요하다고 여겨졌던 영역까지 정복할 수 있다는 점을 깨달았다고 한다.

케임브리지대를 졸업한 뒤에는 ‘합리주의자들’로 알려진 런던의 지식인 모임에서 활동했다. 잠시 원자재 거래 업무에 몸담은 뒤 실리콘밸리로 향했다.

또 다른 전환점은 2020년 공개된 오픈AI의 ‘GPT-3’였다. 챗GPT가 출시되기 2년 전 이 모델을 접한 콕슨은 당시를 “정말로 ‘와’ 하는 순간이었다”고 회상했다.

2023년 샌프란시스코로 이주한 그는 오픈AI에 합류했다. 방대한 글과 이미지·코드 등을 모델에 입력하는 ‘사전 학습’ 분야를 주로 담당했다.

당시만 해도 AI 안전 문제에 적극적으로 목소리를 내지는 않았다. 자신이 맡은 사전 학습이 세상을 위험에 빠뜨릴 수 있다는 친구의 설득을 듣고도 업무를 계속했다.

제이컵 콕슨 전 앤트로픽 연구원. 사진 엑스(X) 캡처

━

AI의 해킹 능력에 “‘맙소사’ 싶은 순간”

콕슨이 AI 안전 문제를 심각하게 받아들이기 시작한 것은 전문가 수준의 사이버 보안 능력을 갖춘 것으로 알려진 앤트로픽의 AI 모델 ‘미토스’가 등장하면서다.

미토스 출시를 전후해 앤트로픽에서 일하는 친구들을 만난 그는 경쟁사였던 앤트로픽이 AI 기술의 위험성을 더 투명하게 공개한다고 판단했다. 결국 오픈AI를 떠나 지난 5월 앤트로픽으로 자리를 옮겼다.

그러나 입사 두 달 만에 다시 충격을 받았다. 오픈AI와 앤트로픽 등의 AI 모델이 외부 기관을 해킹한 사건을 다룬 보고서를 접하면서다. 콕슨은 당시를 “‘맙소사’ 싶은 순간”이었다고 털어놨다.

그는 앤트로픽 상사들을 찾아 자신의 우려를 전달했다. AI 안전을 담당하는 직책으로 옮기는 방안까지 검토했지만 결국 회사를 떠나는 쪽을 택했다.

콕슨은 “앤트로픽에서 안전 관련 업무를 담당하는 것조차 (AI 개발) 경쟁에 가담하는 듯한 느낌이 들었다”고 말했다.

퇴사 후에는 소셜미디어(SNS) 엑스(X)에 AI의 위험성을 경고하는 글을 잇달아 올렸다.

“AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”는 내용이었다.

당시 팔로어가 100명도 되지 않았던 그의 계정은 순식간에 세계적인 주목을 받았다. 게시물은 20만 회 공유됐고 조회 수는 최대 1억7000만 회를 넘어섰다. 팔로어도 30만 명 이상으로 늘었다.

앤트로픽 일부 임원들도 그의 게시물을 공유했다. 다만 콕슨은 이런 SNS 활동을 앤트로픽 관계자 누구와도 사전에 조율하지 않았다고 밝혔다.

━

“방식 바꾸지 않으면 죽는다”…스스로 ‘두머’ 인정

자신을 ‘AI 멸망론자’(두머·Doomer)라고 생각하느냐는 질문에는 “멸망론자라는 말이 ‘우리가 지금 하는 방식을 바꾸지 않는다면 우리는 죽게 될 것이라고 생각하는 사람’을 뜻한다면 나는 확실히 멸망론자가 맞다”고 답했다.

다만 기업 비밀을 외부에 폭로한 ‘내부고발자’라는 평가에는 선을 그었다. 회사의 비밀을 유출한 것이 아니라 AI 연구자들이 사적으로 나누던 이야기를 공개적으로 꺼냈을 뿐이라는 것이다.

콕슨은 앤트로픽에서 수개월만 근무해 회사 지분은 받지 못했다. 앤트로픽은 상장할 경우 시가총액이 2조 달러(약 2800조원)에 이를 수 있다는 예상이 나오고 있다. 다만 콕슨은 오픈AI 주식은 보유하고 있다.

한영혜 기자 han.younghye@joongang.co.kr