"인류파멸" 경고하더니 가장 파괴적인 모델 개발한 남자[글로벌키맨]

오픈AI 직원서 독립, 앤트로픽 세운 다리오 아모데이

(다보스 로이터=뉴스1) 강민경 기자 = 다리오 아모데이 앤트로픽 최고경영자(CEO)가 20일 스위스 다보스에서 열린 세계경제포럼에서 발언하고 있다. 2026.1.20 ⓒ 로이터=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(다보스 로이터=뉴스1) 강민경 기자

'AI 기술이 초급 사무직 일자리를 절반 없애고 1~5년 안에 실업률을 최고 20%까지 끌어올릴 수 있다'.
'소프트웨어 생산 비용은 거의 '0원'이 될 것이다'.
'AI 기업에 세금을 물려야 한다'.

놀랍게도 인공지능(AI)의 위험성과 그 책임론을 언급한 이는 AI 개발업체인 '앤트로픽'의 최고경영자(CEO)인 다리오 아모데이(사진)다. 그는 지난 1월 공개한 자신의 에세이 '기술의 사춘기'에서도 인공지능 위험성을 경고했다.

그는 "인공지능이 스스로 코딩 작업을 하는 '되먹임 고리'(피드백 루프)가 점점 더 강력해지며 차세대 인공지능을 구축하는 속도가 상당히 빨라지고 있다"고 지적했다. 그는 이런 강력한 AI를 "노벨상 수상자 5000만 명의 지식과 두뇌를 가진 국가"에 비유했다. 인공지능이 스스로 지능을 발전시키는 단계에 이르며 인간을 뛰어넘는 것도 시간문제일 뿐이라는 의미다.

━

물리학자가 앤트로픽 설립하기까지

━

1983년생인 그는 미국 샌프란시스코에서 태어났다. 이탈리아계 미국인 가죽 공예가인 아버지와 도서관 프로젝트 매니저였던 유대계 어머니 사이에서 자랐다. 앤트로픽을 함께 차린 여동생 다니엘 아모데이와는 4살 터울이다.

AI를 개발한 대부분의 CEO들이 컴퓨터 공학도 출신인 것과 대조적으로 아모데이는 물리학을 전공했다. 2000년 10대 시절 미국 물리학 올림피아드 대표팀에 선발됐다. 캘리포니아 공과대학에서 대학을 시작한 후 스탠퍼드로 편입해 물리학 학사 학위를 취득, 이후 프린스턴에서 박사 학위를 얻었다. 그는 뉴런의 회로를 연구하다가 컴퓨터 언어 모델과 인간의 뇌가 작동하는 방식이 유사하다는 점에 매료돼 AI로 전향했다. 바이두와 구글 브레인에서 AI 연구원으로 근무하며 일찍이 두각을 나타냈다.

특히 그는 2016년 오픈AI에 합류해 연구 부사장 자리까지 올랐다. 챗GPT의 핵심 기술인 GPT-2와 GPT-3 개발을 사실상 총괄 지휘한 인물이기도 하다. 그의 여동생인 다니엘 아모데이 역시 오픈AI의 안전 부문 부사장이었다. 남매가 오픈AI와 결별하게 된 계기는 오픈AI의 방향성이 '연구와 안전'에서 '상업적 경쟁'으로 급격히 기울기 시작하면서다. AI가 인간의 통제를 벗어날 위험을 막는 '안전 장치'를 먼저 완벽하게 구축해야 한다고 본 남매는 오픈AI를 나와 2021년 오늘날의 앤트로픽을 차렸다.

(로이터=뉴스1) 강민경 기자 = 미국 인공지능(AI) 기업 앤트로픽의 로고. 앤트로픽은 대형 언어 모델 '클로드'를 개발했다. 2025.6.25 ⓒ 로이터=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지. /사진=(로이터=뉴스1) 강민경 기자

━

아마존·구글 사로잡은 경영 철학...AI 회의론 꺾으며 폭발 성장

━

앤트로픽의 가장 독보적인 무기이자 다리오 아모데이의 'AI 안전 철학'이 집약된 기술이 바로 '헌법적 AI'다. 세계 최초로 'AI에게 인간의 헌법을 가르쳐서 스스로 올바르게 행동하게 하는 방식'을 고안한 것이다. 오픈AI가 빠른 AI 개발과 적용에 방점을 찍었다면 앤트로픽은 AI의 안정성을 추구하는 경영 철학을 차별화 포인트로 내세워 창업 초기 아마존·구글 등 빅테크 기업으로부터 대규모 투자를 받았다. 앤트로픽은 미 국방부(전쟁부)의 압력에도 불구하고 '미국인을 대상으로 한 대규모 감시나 완전 자율무기 운용에는 자사 모델을 사용할 수 없다'는 신념을 고수하며 지지층을 얻기도 했다.

한때 AI 모델 경쟁에서 후발주자로 여겨지던 앤트로픽은 이제 빅테크 시장에서 주목받는 기업으로 떠올랐다. 특히 AI 모델 클로드와 코딩 도구 '클로드 코드'가 인기를 끌면서 빠르게 사업을 확장했다. 사용자의 요청을 수행하기 위해 스스로 판단하고 장시간 작업할 수 있는 이른바 '에이전트' 기능을 선보이면서다. 이때문에 앤트로픽의 클로드는 소프트웨어를 비롯한 기존 기업의 업무를 잠식하거나 아예 대체할 수 있다는 우려를 촉발시키기도 했다.

올해 초부터 전세계 기업이 클로드를 앞다퉈 도입하면서 매출이 폭발적으로 급증, 최근 신규 투자유치에서 앤트로픽은 기업가치로 9000억달러(1349조원) 평가받았다. 2분기에는 매출액이 전 분기 대비 130% 급증, 사상 첫 분기 흑자 전환도 관측된다. 현재 이 회사의 분기별 매출 성장 속도는 팬데믹 시절의 줌(Zoom)을 비롯해 기업공개(IPO)를 앞두던 시절의 구글이나 페이스북보다도 빠르다. 이에 대해 월스트리트저널(WSJ)은 "AI 기업들의 막대한 지출 요인 때문에 단기적으로는 수익을 내기 어려울 것이라는 기존의 통념을 뒤집는 결과"라고 평가했다.

조한송 기자 1flower@mt.co.kr
[내 주식이 궁금할땐 머니투데이]