오픈AI 이사회 전 멤버 "AI기업 자율규제만으론 위험"

로이터 연합뉴스 자료사진

샘 올트먼 최고경영자(CEO) 축출을 시도했던 오픈AI 전직 이사회 멤버 2명이 인공지능(AI) 기업들을 자율규제에만 맡겨서는 안 된다는 주장을 폈다.

타샤 매콜리와 헬렌 토너는 27일(현지시간) 영국 경제전문지 이코노미스트 기고에서 인류를 위해 시장의 힘을 길들일 수 있는 규제의 필요성을 제기하며 이같이 밝혔다. 두 사람은 최근 퇴사한 오픈AI의 공동창립자 일리야 수츠케버와 손잡고 지난해 11월 올트먼 CEO 해임을 주도했으나 불발된 뒤 곧바로 이사회를 떠났다.

이번 기고에서 이들은 혁신적인 신기술을 찾으려는 민간 기업들에 대해 주주들과 더 넓은 세계라는 양쪽 이익을 위한 운영을 기대할 수 있느냐 질문을 던지고, 자신들이 이사회에 합류했을 때는 조심스럽게 낙관했다고 돌아봤다. 자치(self-governance)에 대한 회사의 혁신적인 접근 방식이 책임감 있는 AI 개발의 청사진을 제공할 수 있다고 봤다는 것.

그러나 자신들의 경험상 자치 체제가 일종의 성과급제인 이익 보상(profit incentives)의 압력을 온전히 견딜 수 없는 것으로 믿게 됐다고 전했다. 따라서 AI 발전이 모든 사람에게 혜택이 가도록 각국 정부는 바로 효과적인 규제 체제 구축에 나서야 한다고 강조했다.

비영리단체로 출발한 오픈AI도 첨단 AI시스템을 안전하면서도 윤리적으로 개발하면서 성공적으로 경영하리라는 기대를 받았고 이사회가 이런 본래 임무를 지켜내야 하지만, 불행히도 이는 작동하지 않았다고 둘은 평했다.

또 올트먼 CEO가 해임됐다가 이사회로 돌아오고 안전 책임을 맡은 고위 인사가 퇴사하는 등의 전개 상황은 오픈AI의 자치에도 좋지 않은 징조라고 언급했다. 결국 정부가 적극적인 역할을 해야 한다는 주장이다.

이밖에 두 사람은 최근 미국 의원들과 실리콘밸리 투자자 등이 1990년대 인터넷에 대한 자유방임주의적 접근방식 및 그것이 촉발한 성장을 언급, 최소한의 AI 규제를 옹호하는 목소리가 커지고 있다면서 이런 비유는 오해의 소지가 있다고 지적했다. AI 기업 내부뿐 아니라 해당 분야 연구원 및 엔지니어로 구성된 대규모 커뮤니티에서도 AI 개발의 진전에 따른 위험이 널리 인정되고 있다는 설명이다.

조지타운대 보안·신흥기술센터 연구원인 토너는 2021년부터 2023년 사이, 랜드연구소 수석 과학자인 매콜리는 2018년부터 2023년 사이 오픈AI 이사회 멤버로 있었다.