오픈AI 부사장 근무하다 상업화에 염증 느껴 퇴사… 이윤보다 도덕성을 우선

앤스로픽 만든 아모데이 남매

다리오 아모데이 앤트로픽 최고경영자(CEO)와 그의 여동생 다니엘라 아모데이 앤트로픽 사장. / 앤트로픽

앤스로픽의 공동 창업자인 다리오(43)·다니엘라(39) 아모데이 남매는 진보 성향이 짙은 실리콘밸리 산업계에서도 대표적인 기술 이상주의자로 꼽힌다. 인공지능(AI)과 같은 첨단 기술이 인류 사회의 진보를 위해 꼭 필요하다고 믿으면서, 그 기술이 배포되는 과정에서 기업의 이윤보다 도덕성을 우선시한다는 것이다. AI의 군사 사용은 기술을 대하는 미 국방부의 실용주의적 시각과 아모데이 남매의 이상주의적 믿음이 충돌할 수밖에 없는 분야인 만큼, 실리콘밸리에서는 양측의 갈등이 협업 시작부터 예고된 필연적 결과라는 분석이 나오고 있다.

스탠퍼드대 물리학과를 졸업한 오빠 다리오는 구글 브레인에서 딥러닝 연구를 시작했다. 이후 오픈AI에서 연구 부사장으로 GPT‑2와 GPT‑3의 개발을 주도했다. 다니엘라는 오픈AI에서 안전과 정책 부문 부사장을 지냈다.

두 사람은 2020년 GPT‑3을 세상에 공개하는 것을 반대했던 것으로 유명하다. 안전장치가 미비한 기술이 공개됐을 때 가짜 뉴스를 퍼 나르는 도구가 될 수 있다는 우려에서였다. 남매는 결국 상업화로 치우친 오픈AI 행보에 실망해 회사를 나와 2021년 앤스로픽을 창업했다. ‘인간에 대한’이라는 의미의 형용사 ‘앤스로픽’을 사명으로 삼은 것도 인간을 위한 AI를 개발한다는 의미를 담기 위함이었다.

남매가 이토록 AI 안전에 집중하게 된 것은 이들이 2010년대 후반부터 수년간 샌프란시스코의 공동주택에서 ‘효율적 이타주의(Effective Altruism·EA)’ 계열 인사와 함께 살며 영향을 받았기 때문이라는 분석이다. EA는 인류 문명의 발전이라는 큰 이익에 자원을 효율적으로 배치해야 하며, 그 과정에 작은 희생은 타당하다고 보는 철학관이다.