‘스칼릿 조핸슨 목소리 도용’ 오픈AI, 윤리 다룰 새 ‘안전팀’ 만든다

2023년 11월16일 미국 샌프란시스코에서 열린 아시아태평양경제협력체 CEO 서밋 토론에 참여한 오픈에이아이(AI)의 최고경영자(CEO) 샘 올트먼. AP연합뉴스 자료사진

최근 선보인 인공지능 모델 ‘지피티-4오’(GPT-4o)에서 유명 배우 스칼릿 조핸슨 목소리를 도용했다는 논란에 휩싸인 오픈에이아이(OpenAI)가 28일(이하 현지시각) 인공지능 안전을 감독할 새 안전팀을 구성했다고 밝혔다.

오픈에이아이는 이날 블로그를 통해 “오픈에이아이 이사회가 브렛 테일러, 아담 단젤로, 니콜 셀리그만, 샘 올트먼 이사가 이끄는 ‘안전 및 보안 위원회’를 구성했다”며 “오픈에이아이의 프로젝트와 운영에 대한 중요한 안전 및 보안 결정에 대해 전체 이사회에 권고하는 역할을 담당할 것”이라고 알렸다. 이번에 오픈에이아이가 새로 꾸린 ‘안전 및 보안위원회’가 사실상 얼마전 전격 해체된 안전팀 역할을 하게 될 것으로 보인다.

오픈에이아이는 지난 13일 공개한 음성 생성 모델을 강화한 ‘지피티-4오’의 목소리 때문에 인공지능 윤리 논란에 휩싸였다. 스칼릿 조핸슨이 “오픈에이아이의 목소리 요청을 두차례나 거절했는데도 나와 흡사한 음성이 쓰였다”고 반발한 까닭이다. 그 과정에서 기존에 인공지능 윤리에 대한 사내 경각심을 일깨우는 역할을 해 왔던 안전팀(슈퍼얼라이먼트팀)을 최근 해체한 사실이 부각되며, 오픈에이아이사가 수익에만 신경쓰고 있다는 비판이 거세졌다. 옛 오픈에이아이 안전팀의 공동 리더였던 얀 리이크는 18일 사회관계망서비스인 엑스(옛 트위터)에 “오픈 에이아이에서 모든 직위를 내려놨다”며 “지난 수년간 인공지능 안전성이 뒷전으로 밀려났다”고 폭로하기도 했다.

오픈에이아이는 앞으로 ‘안전 및 보안 위원회’가 수행할 첫 임무로 “향후 90일 동안 오픈에이아이의 프로세스와 안전장치를 평가하고 더욱 발전시키게 될 것”이라고 설명했다. 또 “90일 뒤 안전 및 보안위원회가 전체 이사회와 권고 사항을 공유할 것이다. 전체 이사회 검토가 끝난 후, 안전 및 보안에 부합하는 방식으로 채택된 권고안에 대한 업데이트를 공개적으로 공유할 것”이라고 밝혔다.

한편 오픈에이아이는 ‘지피티-4o’의 다음 모델을 훈련하기 시작했다고도 밝혔다. 오픈에이아이는 “최근 차세대 프론티어 모델을 훈련하기 시작했으며, 그 결과물이 범용인공지능(AGI)로 가는 길에 한 단계 높은 수준의 역량을 제공할 것으로 기대한다”며 “활발한 토론을 환영한다”고 밝혔다. 범용인공지능은 사람처럼 추론하고, 학습하며 스스로 판단하는 미래의 인공지능을 일컫는 말이다.

정유경 기자 edge@hani.co.kr