“인류 구원할 우리가 무조건 옳다” 이 오만이 오픈AI 사태 불렀다

실리콘밸리 ‘효율적 이타주의’ 논란

“자신에게 인류를 구원할 수 있는 특별함이 있다고 철석같이 믿는 사람들은 그 목적을 위해 극단적 행동도 서슴지 않는 실수를 범한다.”

지난 17일(현지 시각) 이사회의 반란으로 갑작스럽게 해고됐던 샘 올트먼 오픈AI 최고경영자(CEO)가 전격 복귀한 다음 날인 22일. 구글 인공지능(AI) 연구팀 출신으로 AI 스타트업 ‘코히어(Cohere)’를 창업한 에이단 고메즈 CEO는 직원들에게 이 같은 내용의 메일을 보내며 “(실리콘밸리의) 효율적 이타주의(Effective Altruism)는 독단적인 자기 과시로 변질됐다”고 했다. 인류에 대한 AI의 위협을 막겠다며 올트먼을 해고시킨 오픈AI 이사회의 결정이 투자자나 직원 등 누구를 위한 것도 아니라 독선(獨善)에 불과했다고 작심 비판한 것이다.

그래픽=양인성

◇오픈AI 사태 촉발한 효율적 이타주의 갈등

효율적 이타주의는 좋은 일을 할 때 냉정한 이성으로 긍정적 효과를 극대화시키는 방법을 추구해야 한다는 윤리 사상이다. 당장 눈앞에 있는 어려운 사람에게 돈을 주는 것이 나은지, 아니면 그 돈을 활용해 부를 창출하고 미래에 더 많은 사람을 구하는 것이 나은지 효율적으로 판단해야 한다는 식이다.

이 사상은 십수 년 전부터 실리콘밸리에서 크게 유행하며 거물 추종자를 양산했다. 올트먼을 쫓아낸 일리야 수츠케버 오픈AI 수석 과학자와 애덤 디앤젤로 쿼라 CEO 등 오픈AI 이사진도 이 사상의 열렬한 신봉자들이다. 이들이 ‘당장의 수백·수천 명의 이익보다 미래 수조 명의 잠재적 생명을 구하는 게 더 옳다(효율적이다)’는 논리로 그 어떤 피해를 감수하면서라도 AI의 폭주를 막는 일에 집착하게 된 것도 이 때문이다.

월스트리트저널(WSJ)은 “오픈AI 사태는 효율적 이타주의의 ‘신자’와 ‘비신자’ 간의 분열이 얼마나 큰지 보여준다”고 했다. 실제로 현실과 동떨어진 거대 담론은 오래전부터 오픈AI의 사내 갈등을 키워온 것으로 전해졌다. WSJ에 따르면 수츠케버는 인간보다 더 뛰어난 일반 인공지능(AGI)이 인간의 가치에 부합하는 일만 하도록 통제하는 ‘수퍼얼라인먼트’ 연구팀을 구성하면서, 향후 4년간 회사 컴퓨팅 자원의 5분의 1을 쓰겠다고 밝혔다. 하지만 이 때문에 당장 내년에 일어나는 미국 대선에 영향을 미치는 AI의 오·남용 문제를 해결할 역량은 줄었다. 이상만 좇는 이사진에 불만을 품는 직원이 많아진 배경이다.

전문가들은 “자신들이 인류를 구원할 수 있다고 착각하는 효율적 이타주의자들이 결과적으론 AI 난개발을 더욱 부추기게 됐다”고 지적한다. AI 상용화를 적극적으로 추진하는 올트먼이 회사로 복귀하면서, AI 안전을 중시하던 인물들이 이사회에서 사라지고 그 빈자리가 AI의 상용화를 지지하는 기업가·경제학자 등으로 채워졌기 때문이다.

◇변질된 윤리 사상, 사기의 면죄부로

효율적 이타주의를 악용하는 실리콘밸리 창업자도 흔하다. BBC는 지난해 10조원이 넘는 피해액을 기록한 가상 화폐 거래소 FTX의 몰락에 대해 “기업가들의 가장 편리한 홍보 수단이 된 효율적 이타주의가 문제”라고 지적했다. 샘 뱅크먼-프리드 FTX 창업자는 평소 이 사상의 추종자로 유명한 데다, FTX를 키우는 과정에서도 ‘돈을 많이 벌어 더 많은 기부를 하겠다’며 거액의 투자를 유치했기 때문이다.

‘피 한방울로 250가지 질병을 진단한다’는 문구로 투자자를 모은 엘리자베스 홈스 테라노스 창업자 역시 인류를 구하는 대업을 이루기 위해선 작은 거짓말 정도는 해도 된다는 잘못된 생각을 지닌 인물이었다. 심지어 올트먼조차도 비판에서 자유롭지 못하다. 그는 홍채 정보를 수집해 블록체인 기반의 신분 인증 시스템을 구축하는 ‘월드코인’ 프로젝트 투자를 유치하며 “수익을 나눠 전 인류에게 기본 소득을 줄 것”이라는 창대한 계획을 내세웠다. 하지만 당장 돈이 급한 개발도상국 시민들의 생체 정보를 허울 좋은 말로 수집하고 가상 화폐 가치 상승으로 돈을 벌었다는 지적이 나온다.

테크 업계 관계자는 “실리콘밸리의 효율적 이타주의는 공익을 위해 독단적인 결정을 내려도 괜찮은 ‘면죄부’ 또는 돈벌이 수단으로 변질됐다”고 했다.