"인류를 위한 인공지능" 누가, 어떻게 할 것인가?
뉴스페퍼민트 NewsPeppermint
지난 17일부터 22일까지 닷새간 오픈AI의 CEO 샘 알트만이 갑자기 해고됐다가 복귀하는 과정은 하루하루, 매 순간이 마치 한 편의 드라마 같았습니다. 샘 알트만은 이미 세계적인 유명 인사였고, 혹여 알트만을 잘 모르는 사람이라도 그가 (경영을) 이끄는 오픈AI가 만든 챗GPT에 관해서는 아마 들어본 사람이 많을 테니, 온 세상의 이목이 오픈AI에 쏠린 것도 당연했습니다. 실제로 오픈AI와 챗GPT는 현재 기술 경쟁의 최첨단이라 할 수 있는 인공지능 기술을 상징하는 기업과 서비스라 해도 과언이 아닙니다.
샘 알트만은 대다수 직원의 두터운 신뢰를 받는, 나아가 동경의 대상이라고 할 수 있는 CEO였습니다. 그를 갑자기 내친 이사회가 결정을 되돌리는 데도 95%에 육박하는 오픈AI 대다수 직원의 압박이 크게 작용했습니다. 이들은 샘 알트만을 복귀시키지 않으면, 우리도 알트만을 따라 오픈AI를 떠나겠다는 연판장에 서명했죠.
도대체 오픈AI 이사회는 어떻게 멀쩡한 CEO를 하루아침에 해고할 수 있었을까요? 가장 큰 문제는 알트만이 오픈AI가 하는 영리 사업 부문만 이끌었다는 점입니다. 오픈AI 전체를 이끈 건 CEO 알트만이 아니라 알트만이 속한 오픈AI 전체 이사회였습니다. 이사회는 지난 2015년 설립할 때 세운 오픈AI의 사명을 완수하는 것이 책무의 전부입니다. 알트만도 (해임되기 전) 이사회의 일원이었지만, 여섯 명 중 한 명이었을 뿐 다수가 결의하면 이번처럼 얼마든지 CEO 자리에서 쫓겨날 수 있는 구조였습니다. 일어나지 않을 법한 일이었지만, 동시에 일어나지 말란 법도 없던 일을 오픈AI 이사회가 기어이 일으켰던 겁니다.
뉴욕타임스에서 자기 이름을 건 팟캐스트를 진행하는 칼럼니스트 에즈라 클라인도 이번 사태를 복기하며 의미를 짚은 칼럼을 썼습니다. 일지 별로 어떤 일이 일어났는지 다룬 자세한 분석은 제가 NYU 조경현 교수와 함께 이야기 나눈 아메리카노를 참고하셔도 됩니다.
[ https://www.youtube.com/watch?v=dRAX-I-h6H4 ]
[ https://premium.sbs.co.kr/article/zB30l-eZ7gA ]
[ https://premium.sbs.co.kr/article/uyQ2ff0Li7j ]
오늘은 이번 사태와 관련해 생각해 볼 수 있는 점 두 가지를 함께 짚어보겠습니다. 먼저 알트만을 멈춰 세우려던 기존 이사진 가운데 일부를 비롯해 실리콘밸리의 유명인사 중에 적잖은 이가 믿고 있다고 알려진 효과적인 이타주의(Effective Altruism, EA) 이야기, 그리고 인공지능 기술처럼 인류 전체에 큰 영향을 미칠 기술의 개발과 사업화, 그에 따르는 사회적, 도덕적 책임을 개별 기업에 지우는 게 옳은지, 아니면 정부가 나서야 하는지 그 책임 소재에 관한 이야기입니다.
효과적인 이타주의와 'AI 안전성'
효과적인 이타주의란 다른 사람을 돕는 최선의 방법을 찾아 이를 실천에 옮기는 일련의 운동과 전략을 뜻합니다. 전 세계에서 가장 시급한 문제들을 풀 최선의 해결책을 찾는 연구와 함께 연구 결과를 토대로 선한 일을 해서 세상에 실질적인 도움을 주는 커뮤니티를 지향한다고 소개돼 있습니다. 세상에 자원은 한정적이니, 남을 돕는 좋은 일에 기왕이면 자원을 낭비하지 않고, 목표한 바를 이룰 수 있다면 당연히 좋을 겁니다. 취지 자체는 문제 삼을 게 전혀 없는 운동입니다. 오히려 장려할 만한 일이죠.
[ https://www.effectivealtruism.org/articles/introduction-to-effective-altruism ]
그런데 문제는 효과적인 이타주의를 좇는 이들 가운데 일부가 우려하는 시나리오가 현실주의자들의 인식과 너무 동떨어질 때 일어나곤 합니다. 효과적인 이타주의자들이 가장 우려하는 건 이 세상에 서로 도울 인류가 멸망하는 끔찍한 시나리오인데, 자꾸 그 생각만 하다 보면 아주 희박한 확률로 일어날 재앙을 막기 위해 상당한 주의를 기울이고 많은 자원을 투입해야 한다는 결론에 이릅니다. 어떤 문제든 소 잃고 외양간 고치는 것보다 예방하는 게 낫긴 하겠지만, 보기에 따라 이런 주장이 불필요한 데 자원을 낭비하는 과도한 주장으로 느껴질 수 있습니다. 그러다 보면 마찰이 빚어지죠.
인공지능 기술은 인류에게 지금껏 누리지 못한 편리를 가져다줄 강력한 기술이지만, 동시에 잘못 쓰이면 재앙이 올 수도 있습니다. 바로 이 지점에서 경쟁 기업들과 치열한 경쟁을 벌이며 기술 개발에 박차를 가해야 하는 샘 알트만과, 기술 개발도 중요하지만 안전에 더 주의를 기울여야 한다는 이사회의 생각이 갈렸던 것으로 보입니다. 다만 이 문제는 에즈라 클라인도 지적했듯 "판단의 영역"입니다. 옳고 그름을 명확하게 나누기 어렵다는 뜻이죠. 어떤 선택을 하고 이를 실천에 옮기면 다른 선택지를 골랐을 때 무슨 일이 일어났을지 알 수 없게 됩니다. 예를 들어 영화 "터미네이터"에서 그린 디스토피아처럼 기계가 인간을 몰살시키는 재앙을 막기 위해 인간이 충분한 안전장치를 마련해 둔다고 가정합시다. 그리고 다행히 그런 일이 일어나지 않는다면, 이때 우리는 기계 문명에 의해 멸종당하지 않은 것이 우리가 신경 써서 만든 안전장치 덕분인지, 어차피 일어날 가능성이 매우 작던 일이니, 쓸데없는 데 돈을 낭비한 건지 영영 알 수 없습니다.
이사회가 극단적인 효과적인 이타주의자들이고, 알트만은 효과적인 이타주의에 아무런 관심이 없는 냉혈한 자본주의자인 것도 아닙니다. 오히려 샘 알트만도 효과적인 이타주의에 관심이 많은 편입니다. 2015년 비영리 단체로 출발한 오픈AI의 사명(mission)에 효과적인 이타주의가 상당 부분 녹아있고, 알트만도 엄연한 오픈AI의 이사였다는 점을 잊어선 안 됩니다. 다만 알트만(과 브록만)은 기술을 개발하고 제품을 만들어 파는 사업을 직접 담당하는 인물이다 보니, 현실적인 제약을 좀 더 신경 써야 했습니다. 비영리 단체 산하 영리 기업이라는 독특한 구조를 유지하면서 오픈AI를 여기까지 끌고 온 주역인 만큼 알트만은 앞으로도 계속 발전해 나갈 수 있을 거라 믿었을 겁니다. 그러나 이번 해임을 주도했던 이사들의 생각은 달랐던 거죠.
(남은 이야기는 스프에서)
심영구 기자 so5what@sbs.co.kr
Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
- "부산엑스포인데 웬 강남스타일"…끝까지 보기 민망했다는 엑스포 PT
- 홍진호, 포커 대회 또 우승!…누적 상금만 '31억 달성'
- [뉴스딱] 엔딩 때 178bpm까지 올랐다…'서울의 봄' 심박수 챌린지
- 아이 비명에 엄마 달려와도…끝까지 쫓는 맹견에 아찔
- 600만 원 명품백 들고 도주…'중고거래 먹튀' 잡고 보니
- 신고부터 심폐소생술까지…목숨 구하고 말없이 떠난 영웅
- "납치 같다" 뛰어내린 여대생 사망…택시기사 무죄, 왜
- "겨울 왔나" 벌써 난방비 걱정…집안에 다시 텐트 친다
- '반유대주의 논란' 겪은 머스크 "인질 상징 목걸이 매일 걸겠다"
- 미, '북 백악관 위성촬영' 주장에 "인터넷에 사진 많다"