머스크 참여 'AI개발 일시중단' 서한 논란… 시진핑 서명, 알고보니 가짜

일론 머스크가 주요 후원자인
美 비영리단체 'FLI' 주도 작성
기업인 등 1800명 서명 올렸지만
동의한적 없는 인물들 포함돼

【파이낸셜뉴스 실리콘밸리(미국)=홍창기 특파원】 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 정보기술(IT) 기업인들이 인공지능(AI) 시스템 개발을 일시 중단하자며 공개서한을 내놓아 논란이 되고 있다. 이들은 AI가 인류에 심각한 위험성을 미칠 수 있다며 최첨단 AI 시스템 개발을 일시 중단하자고 촉구했는데 서명 일부가 가짜로 드러났기 때문이다.

1일(현지시간) 현지 언론에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI) 주도로 작성돼 3월 22일 공개된 이 서한에 이름을 올린 1800여명의 서명 중 일부가 가짜였다.

시진핑 중국 국가주석과 페이스북의 모기업 메타 측 수석과학자 얀 르쿤 등은 서한 내용에 동의한 적이 없었는데 이들의 서명이 올라가 있었다. 서한 발표에 앞서 서명자의 신원확인 등 검증이 충분히 이뤄지지 않은 탓에 이런 문제가 발생한 것으로 분석된다.

이 서한에는 '챗GPT' 개발사 오픈AI의 최신 거대언어모델(LLM)인 GPT-4를 능가하는 AI 시스템 개발을 6개월간 중단할 것을 촉구하는 내용이 담겼다. 공동의 안전협약을 통해 거대AI가 초래하는 위험을 인류가 제어할 수 있을 때까지 AI 개발을 멈춰야 한다는 이유에서다.

그러나 이에 대해 전 구글 직원이자 현재 AI 연구 스타트업 '허깅페이스'에서 수석윤리과학자로 일하는 마거릿 미첼은 서한이 개발중단 대상으로 지목한 'GPT-4를 능가하는 AI'가 구체적으로 무엇인지조차 명시되지 않았다고 지적했다. 그는 "이 서한은 많은 수상쩍은 아이디어를 당연한 사실로 간주하면서, FLI 후원자에 이익이 될 우선순위와 AI 관련 이야기를 내세우고 있다"고 비판했다. 이 서한에 담긴 내용이 현실이 된다면 FLI의 주요 후원자인 머스크재단 측이 상대적으로 이득을 볼 것이란 주장으로 보인다.

미첼 외에도 서한에 인용된 연구자료를 작성한 원저자 중 최소 3명이 AI 개발 일시중단에 반대하는 입장을 밝힌 상황이다.

미국 코네티컷대학의 시리 도리 하코헨 조교수는 AI는 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화할 수 있으며 이런 문제는 이미 현실화한 상황이라며, 이제 와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다고 지적하기도 했다.

이런 비판에 FLI 공동설립자 막스 테그마크는 "우리가 누군가를 인용한다고 그들이 서한을 지지한다거나 우리가 그들의 의견에 전적으로 동의한다는 건 아니다"라고 했다. 이어 "일론 머스크가 경쟁을 늦추려 시도한다고 말하는 이들이 있는 건 정말로 웃기는 일"이라며 머스크는 서한 초안 작성에 관여하지 않았다고 강조했다.