[테크&포커스] AI개발 갑론을박… 머스크 "멈춰야" 게이츠 "계속해야"

글로벌 IT 유명 인사들이 AI(인공지능) 개발 지속 여부를 놓고 갑론을박을 펼치고 있다. 생성형 AI에서 비롯되는 각종 문제와 지속 가능성을 고려하면 납득할 만하다는 평가도 있지만 그 의도에 대해 곱지 않게 바라보는 시선도 존재한다.

미국 비영리단체 FLI(삶의미래연구소)는 지난달 공개서한을 통해 현재 챗GPT의 기반인 LLM(거대언어모델) 'GPT-4'를 능가하는 AI시스템 개발을 6개월간 중단할 것을 촉구했다. 일론 머스크 테슬라 CEO(최고경영자), 스티브 워즈니악 애플 공동창업자 등 IT분야 유명 인사와 에마드 모스타크 스태빌리티AI CEO, 스튜어트 러셀 UC버클리 교수, 요슈아 벤지오 몬트리올대 교수 등 AI전문가, 세계적인 작가 유발 하라리 등 1000여 명이 서명했다.

이들은 서한을 통해 "강력한 AI시스템은 그 효과가 긍정적이고 그 위험을 관리할 수 있다는 확신이 있을 때만 개발돼야 한다"며 이를 위한 협약, 도구 등 안전장치가 충분히 마련될 때까지 초거대AI 개발의 '모라토리엄' 기간을 가질 것을 촉구했다. 초거대AI가 가져올 수 있는 혼란과 위험을 명확히 파악하고 인류가 제어할 수 있도록 조치가 취해진 뒤 개발을 이어가자는 주장이다.

이에 대해 반대 목소리도 높다. 최근 빌 게이츠 MS(마이크로소프트) 창업자는 "특정 단체가 개발을 일시 중단하자고 요청한다고 해서 문제가 해결된다고 생각하지 않는다"며 "엄청난 이점이 있는 게 확실한 만큼 우리가 할 일은 문제가 있는 부분을 파악하는 것"이라고 밝혔다. 에릭 슈미트 전 알파벳(구글 모회사) 회장 또한 "중단하면 그저 중국에만 이익이 될 것"이라고 말했다.

FLI 공개서한에 대한 신뢰성도 의심을 사고 있다. 로이터통신에 따르면 이 서한에 이름을 올린 이들 중 일부의 서명이 가짜로 판명됐다. 시진핑 중국 국가주석과 얀 르쿤 메타(페이스북) 수석과학자가 대표적이다. 얀 르쿤은 자신의 소셜미디어를 통해 공개적으로 서한 내용에 반대한다는 의견까지 냈다.

일론 머스크는 오픈AI에 빠른 AI 개발을 종용하다가 약속한 투자도 이행하지 않고 나온 것으로 알려졌다. 일각에서는 공개서한 상당수가 장기주의(Longtermism) 지지자라는 점을 주목하기도 한다. 옥스퍼드를 중심으로 지난 수년간 형성돼온 장기주의는 최근 실리콘밸리에도 영향을 끼치고 있다. FLI는 장기주의를 위해 설립된 기관이며 머스크도 과거 1000만달러를 기부한 바 있다.

에밀리 벤더 워싱턴대 교수는 자신의 소셜미디어를 통해 장기주의자들이 AI 위험을 과장하고 있다고 꼬집었다. 그는 공개서한이 자신의 연구를 오용하고 있다고 비판하며 "AI 실험실은 통제불능 경쟁에 갇혀있지만, 아무도 그런 '디지털 마인드'를 개발하지 않았고 그렇게 하는 과정에 있지도 않다"고 강조했다.

허유선 철학박사(동국대 강사)는 "장기주의는 장기적인 미래에 긍정적인 영향을 주는지를 우선 고려하는 것으로 보이며 기술친화적인 성향을 띤다"면서 "이번 공개서한은 LLM에 한해 우리가 실존적 위험을 배제하고 통제 가능한 방식으로 사용할 수 있도록 기술 거버넌스와 규제 프로토콜 마련 및 투명성을 추구한다는 점에서 충분히 납득할 만한 내용이다. 그 명확한 의도와 목적은 좀 더 지켜볼 필요가 있다"고 설명했다.

팽동현기자