"맙소사" 대체 뭘 봤길래…"다 죽는다" 뛰쳐나온 27세 AI연구원

AI 외부기관 해킹 보고 '경악'..."내부고발자는 아니다"

[한국경제TV 박근아 기자]

27세의 연구원이 인공지능(AI)이 10년 안에 인류를 멸망시킬 수 있다고 공개적으로 경고하며 앤트로픽을 박차고 나와 AI 개발 속도조절 및 규제론에 불을 붙였다.

미 일간 월스트리트저널(WSJ)은 17일(현지시간) 기사를 통해 영국 출신의 전 앤트로픽 연구원 제이컵 콕슨을 집중 조명했다.

불과 1주일 전만 해도 콕슨은 그저 무명의 연구원이었지만, 지금은 AI 안전의 상징 인물이 됐다.

그러나 그는 실리콘밸리의 AI 안전 옹호자 커뮤니티의 주요 인물도 아니었고, 주변 친구들조차 그가 윤리적인 이유로 AI 기업을 그만둘 가능성이 높다고는 예상하지 않을 만큼 원래는 이 문제에 대해 무심했다고 WSJ은 전했다

중세 독일문학 교수의 아들인 콕슨은 고등학생 시절 국제 수학올림피아드 영국 대표팀으로 선발된 수학 영재였다. 그는 올림피아드 대회에서 2016∼2017년 출전해 은메달과 동메달을 따냈다.

그는 2016년에는 구글 딥마인드의 알파고가 이세돌 기사를 이기는 '알파고 쇼크'를 접하고 기계가 인간의 직관과 창의성이 필요한 영역까지 정복할 수 있다는 점을 인식하게 됐다.

케임브리지 대학을 졸업한 콕슨은 '합리주의자들'이라는 이름으로 알려진 런던의 지식인 모임 소속이었다. 그는 잠시 원자재 거래 업무를 맡았다가 실리콘밸리로 갔다.

그는 오픈AI의 '챗GPT'가 출시되기 2년 전인 2020년 공개된 'GPT-3' 모델을 접했고 그때 "정말로 '와' 하는 순간이었다"고 회상했다.

2023년 샌프란시스코로 이주해 오픈AI에 입사한 그는 주로 방대한 양의 글과 이미지, 코드 등을 모델에 입력하는 '사전 학습' 부문을 담당했다. 이 당시만 해도 그가 AI 안전 문제에 특별히 목소리를 높인 적은 없다고 알려졌다.

오히려 친구는 그가 담당하는 사전 학습이 세상을 위험에 빠뜨릴 수 있다고 설득했지만, 그는 업무를 계속했다.

그가 마음을 돌리게 된 계기는 첫 AI 모델인 앤트로픽의 '미토스'의 등장이었다. 미토스는 전문가 수준의 사이버 보안 능력을 갖춘 것으로 알려졌다.

그는 미토스 출시를 전후해 앤트로픽 소속의 친구를 여럿 만났다. 이를 통해 자기 회사의 경쟁사인 앤트로픽이 AI 기술 관련 위험을 더 투명하게 공개하고 있다는 느낌을 받았다고 설명했다.

결국 그는 오픈AI를 떠나 지난 5월 앤트로픽으로 자리를 옮겼지만, 불과 두 달 만에 오픈AI와 앤트로픽 등의 AI 모델이 외부 기관을 해킹한 사건을 접했다.

그는 이 사건을 다룬 보고서를 접했던 당시를 "'맙소사' 싶은 순간"이었다고 털어놨다.

이후 그는 앤트로픽의 상사들에게 자신이 가진 우려에 대해 논의했다. 그는 AI 안전 관련 업무를 담당하는 직책으로 이동하는 것도 고려했으나 결국 회사를 떠났다.

그는 "앤트로픽에서 안전 관련 업무를 담당하는 것조차 (AI 개발) 경쟁에 가담하는 듯한 느낌이 들었다"고 말했다.

이후 그는 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"는 폭로를 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 올려 전세계를 놀라게 했다.

당시 그의 X 계정의 구독자(팔로어) 수는 100명도 채 안됐다. 그럼에도 그가 올린 게시물은 20만 회 공유돼 조회수가 최대 1억7천만 회 이상을 기록했다. 현재 콕슨 계정의 구독자 수는 30만 명 이상으로 늘었다.

앤트로픽의 일부 임원들도 해당 게시물을 공유했다. 그러나 콕슨은 앤트로픽 내 누구와도 SNS 글과 관련해 조율한 적이 없다고 설명했다.

그는 자신이 'AI 멸망론자'(두머·Doomer)라고 생각하느냐는 질문에 "멸망론자라는 말이 '우리가 지금 하는 방식을 바꾸지 않는다면 우리는 죽게 될 것이라고 생각하는 사람'을 뜻한다면 나는 확실히 멸망론자가 맞다"고 답했다.

그러나 자신이 '내부고발자'라는 평가에 대해서는 고개를 저었다. 기업의 비밀을 알린 것이 아니라 AI 연구자들이 사적으로 나누던 이야기를 공개적으로 했을 뿐이라는 것이다.

그는 오픈AI 주식은 보유하고 있지만 앤트로픽의 지분은 받지 못했다. 그가 앤트로픽에서 근무한 기간이 수개월에 불과했기 때문이다. 앤트로픽은 상장 시 시가총액이 2조 달러(약 2천800조원)에 달하리라는 예상이 나오고 있다.

(사진=연합뉴스)

박근아기자 twilight1093@hankyungtv.com