[필동정담] AI를 경고할 권리

인공지능(AI) 분야 대표 기업인 오픈AI, 구글 딥마인드, 앤스로픽 소속 전현직 연구자들이 5일 빅테크 기업을 향해 "첨단 인공지능에 대해 경고할 권리를 달라"고 성명서를 배포한다. 같은 날 AI 석학인 제프리 힌턴 토론토대 교수, 요슈아 벤지오 몬트리올대 교수, 스튜어트 러셀 UC버클리 교수 등은 일제히 이 성명에 지지를 선언한다.

AI 연구자들이 이런 즉각적인 반응을 내놓은 것은 그간 '표현의 자유'가 가로막혀 있었기 때문이다. 빅테크 기업들은 개발자를 채용하면서 '비밀유지조약(NDA)'을 맺는데, 해당 조항 때문에 AI 안전 이슈에 대해 발언을 전혀 할 수 없다. AI 석학들은 이날 "AI가 끼칠 위험은 불평등을 고착화하는 것에서부터 잘못된 정보 전달, 통제력 상실에 따른 인류 멸종까지 다양하다"며 "AI 기업들도 위험을 인정하고 있다"고 운을 뗐다. 그러면서 이들은 빅테크 기업 구성원들이 위험을 제대로 알 수 없으니, 담당 직원들이 직접 경고할 수 있도록 '입마개'를 벗겨달라고 목소리를 높였다. 이들은 구체적으로 채용 계약을 할 때 비밀유지조약을 맺더라도 AI에 대한 경고만큼은 허용하고, AI를 비판하는 행위를 금지하지 말 것을 요구했다.

실리콘밸리에서는 비밀유지조약을 맺는 것을 전제로 스톡옵션을 지급하는 것이 관행이다. 따라서 비판이나 내부고발을 한다면, 스톡옵션을 박탈당할 수밖에 없다. 오픈AI는 이 때문에 곤욕을 치르기도 했다. "오픈AI 직원들이 죽을 때까지 회사를 비방해서는 안된다는 내용을 담은 계약서에 서명했다"는 사실이 공개됐기 때문이다. 한 직원이 퇴직 이유에 대해 "연구에 어려움을 겪었다"고 말한 것이 가장 높은 수위였을 정도다. AI 연구자들이 AI에 대해 경고할 권리를 주장한 것은, AI 안전을 위한 중요한 발걸음이다. 미국과 유럽연합(EU)을 중심으로 AI 안전 정책이 나오고 있기는 하지만, 한계에 그칠 것이라는 지적이 많아서다. 실제로 AI를 다뤄보는 AI 연구자만큼, 그 잠재력과 위험성을 깊게 알기는 어렵다.

[이상덕 기자]