“안전보다 수익”...잘나가는 오픈AI, 안전성 뒷전에 비판 가속

챗GPT를 내보이며 전세계에 생성형 인공지능(AI)에 대한 관심을 불러일으켰던 오픈AI에 대한 안전성 및 윤리성에 대한 우려가 지속되고 있다. AI의 안전성을 검토하던 조직이 해체되고 상업단체로서의 성격이 강화되고 있기 때문이다.

29일(현지 시각) 블룸버그통신에 따르면 오픈AI에서 안전성과 윤리성을 검토하던 슈퍼얼라인먼트팀이 해체됐다. 앞서 사임의 뜻을 밝혔던 오픈AI의 공동 창업자이자 최고 과학자를 맡았던 일리야 수츠케바에 이어 슈퍼얼라인먼트팀 책임자였던 얀 리이크 모두 오픈 AI를 떠나게 됐다. 이들은 오픈AI 내에서 샘 올트먼 최고경영자(CEO)에 반대하며 안전에 대한 목소리를 높였던 이들인데, 이들을 따르던 다른 임직원들까지 줄퇴사 행렬에 동참하면서 회사 내외부에서 안전성에 대한 우려가 지속적으로 제기되는 상황이다.

오픈AI 일러스트. /연합뉴스

오픈AI는 슈퍼얼라인먼트팀을 대신해 이사회에 AI 안전 대책을 권고하는 안전보안위원회를 신설했다. 이사회 산하에 신설된 안전보안위원회는 브렛 테일러 회장과 3명의 사외이사, 샘 올트먼 최고경영자(CEO), 내부 전문가들이 합류할 예정이다. 이들의 역할은 회사가 AI 안전과 관련된 중요한 결정을 할 때 전체 이사회에 권고 사항을 제시하는 것이다. 외부 전문가의 조언을 받을 수도 있다. 위원회는 먼저 향후 90일 동안 회사의 기존 안전 조치 및 개발 프로세스를 검토하고 개선이 필요한 영역을 발굴할 예정이다.

한편 리이크는 경쟁사인 앤스로픽으로 합류하게 됐음을 자신의 소셜미디어(SNS) X(전 트위터)를 통해 밝혔다. 전 오픈AI 직원들로 구성된 앤스로픽은 AI의 안전성에 더욱 중점을 둔 회사로 알려져있다. 리이크는 앤스로픽에서 그간 오픈AI에서 작업하던 AI 안전성 연구를 이어갈 것이라고 말했다. 아직 AI의 안전성을 제어하는 모델은 존재하지 않지만 오픈AI와 앤스로픽 등의 기업에서는 향후 구축할 경우 어떻게 제어할 수 있는지 연구를 진행하고 있다.

리이크는 “안전 문화와 프로세스가 제품의 뒷자리를 차지했다”며 오픈AI를 비판했다. 앞서 18일에도 리이크는 자신의 X에 “인간보다 똑똑한 기계를 만드는 것은 본질적으로 위험한 일이고, 오픈AI는 인류 전체를 대표해 막중한 책임을 지고 있다”며 “하지만 지난 수년간 AI 안전성은 잘나가는 제품보다 뒷전으로 밀려났다”고 지적했다. 그러면서 그는 자신의 팀이 우선순위를 잃었고, ‘중요한 작업을 수행하기 위해 컴퓨팅 및 기타 자원을 확보할 수 없었다고도 토로했다. 올트먼 복귀 후 사내 자원을 신제품 개발·출시로 몰아주는 바람에 안전 연구팀은 사실상 제대로된 연구를 할수 없었다는 것이다.

수퍼얼라인먼트팀의 일원이었던 그레첸 크루거도 비판에 가세했다. 그는 자신의 X 계정에 “회사를 떠나는 것은 쉬운 결정이 아니었다”면서 “수츠케버와 리이크에 대한 소식을 듣기 몇 시간 전에 사임했다. 나는 그들의 우려를 공유한다”고 밝혔다. 그러면서 “오픈AI는 의사결정 과정에서 책임과 투명성을 갖춰야 하며 정책 집행, 기술 사용에 대한 주의, 불평등 등을 개선하기 위해 더 많은 조치가 필요하다”고 했다.

이러는 동안에도 오픈AI는 상업적 활동에 대한 발을 넓혀가고 있다. 이날 오픈AI는 글로벌 회계업체인 프라이스워터하우스쿠퍼스(PwC)와 기업용 버전인 챗GPT 엔터프라이즈 사용 및 재판매에 대한 계약을 체결했다. PwC는 이번 계약으로 챗GPT 엔터프라이즈를 사용하는 오픈AI의 가장 큰 기업 고객이 됐다고 월스트리트저널(WSJ) 등은 전했다.

안전성 연구팀을 해체하고 안전위원회를 구성한 오픈AI에 대해 리서치업체 DA데이빗슨의 분석가 길 루리아는 오픈AI가 “비영리단체에서 상업적 단체로의 전환을 완료했다는 의미”라고 평가했다. 제품 개발 과정을 간소화하고 출시 및 판매에 도움이 될 것이라는 지적이다. 지난해 2월 오픈AI는 챗GPT 플러스라는 월 30달러의 유료 버전을 출시했고, 지난해 8월 기업을 대상으로 보안이 강화된 챗GPT 엔터프라이즈를 출시했다. 오픈AI는 유료 구독자 수는 60만명에 달하고, 포천지 선정 500대 기업의 92%가 어떤 형태로든 챗GPT를 사용하고 있다고 지난 4월 밝힌 바 있다.

- Copyright ⓒ 조선비즈 & Chosun.com -