"'AI 목소리'에 친구도 속았다" 분노한 스칼렛 요한슨…투명성 뒷전인 주요 AI 모델들 [스프]

[뉴스스프링] 오픈AI 투명성 지수 하위권…유럽은 본격 AI 규제

오픈AI가 최근 공개한 새 AI(인공지능) 모델 'GPT-4o(포오)'의 음성이 미국 유명 배우 스칼렛 요한슨의 목소리를 모방했다는 논란에 휩싸인 가운데, 오픈AI의 AI 모델 투명성이 크게 낮은 것으로 나타났습니다. 유럽연합은 세계 최초의 포괄적 AI 규제법을 2026년부터 전면 시행하기로 했습니다.

무슨 상황인데?

오픈 AI의 'GPT-4o'(포오)가 배우 스칼렛 요한슨의 목소리를 모방한 것이라는 논란이 제기됐습니다. 오픈 AI가 지난 13일 공개한 GPT-4o는 보고 듣고 사람과 음성으로 자연스럽게 대화까지 할 수 있는 새 AI 모델로, 사람이 AI와 사랑에 빠진다는 내용의 영화 '그녀(Her)'가 현실이 됐다는 점에서도 크게 화제가 됐는데요, 스칼렛 요한슨은 당시 이 영화에서 AI의 목소리 연기를 맡았습니다.

스칼렛 요한슨은 챗GPT 신규 음성 서비스 중 하나인 '스카이'가 자신의 목소리를 모방했다고 주장하고 있습니다. 요한슨은 스카이의 음성이 자신의 친구와 미디어도 구분할 수 없을 정도로 자기 목소리와 흡사하다며, '충격과 분노'를 느꼈다고 밝혔습니다. 요한슨은 오픈AI CEO 샘 올트먼이 GPT-4o 발표 이틀 전에 자신의 목소리를 쓰고 싶다고 전화해 왔지만 거절했다고 밝혔습니다. 요한슨은 오픈 AI에 스카이가 만들어진 과정을 자세히 설명해 달라는 편지를 보냈다고 합니다. 또 변호사를 고용했다며 법적 대응까지 시사했습니다.

오픈 AI는 스칼렛 요한슨의 목소리와 비슷한 챗GPT 음성 사용을 일시 중단하고, '스칼렛 요한슨을 모방한 것이 아니라 다른 전문 배우의 목소리'라고 주장하고 있습니다. 하지만 '개인정보 보호를 위해' 이 성우가 누구인지는 공개하지 않고 있습니다.

GPT-4o 설명하는 미라 무라티 오픈AI CTO. 사진 : 오픈AI 라이브 스트림 캡처

좀 더 설명하면

미국의 유명 배우들은 이전부터 AI의 부작용을 크게 우려해 왔는데요, 톰 행크스는 자신의 젊은 시절 모습이 딥페이크로 제작된 치과 광고에 도용당했다고 문제를 제기한 바 있죠. 톰 행크스는 "'배우의 유사성'을 지식재산으로 보호해야 한다"며, 배우의 모습을 토대로 AI가 제작한 가상 배우를 영화에 출연시킬 경우 해당 배우에 대한 '디지털 초상권'을 인정해야 한다고 주장했습니다.

이런 가운데 미국 스탠퍼드대의 인간중심인공지능연구소(HAI)가 현지시각 21일 주요 14개 AI 모델의 투명성 지수(FMTI)를 평가한 보고서를 발표했습니다. 아니나 다를까, 오픈AI는 14개 모델 중 11위로, 투명성이 다른 모델에 비해 많이 처지는 것으로 나타났습니다.

이 연구소는 지난해 10월 처음으로 이 지수를 발표했는데요, HAI의 투명성 지수는 사회적으로 영향력 있는 AI 개발자들이 개발 과정 등을 더 많이 공개하도록 장려하기 위한 것으로, 매개변수와 훈련 방식, 데이터 공개 여부, 설명 가능성 등의 지표를 기준으로 100점 만점으로 평가합니다.

이번 평가에서 조사 대상 14개 AI 모델 중 허깅페이스-서비스나우의 스타코더가 85점으로 가장 높은 점수를 받았습니다. 49점으로 11위를 기록한 오픈AI의 GPT-4는 지난해 10월에는 48점을 받았습니다. 별다른 개선이 없었다는 얘기입니다.

구글의 1.0 울트라는 47점으로 12위, 역시 하위권입니다. 앤스로픽의 클로드3(51점)는 10위, 마이크로소프트 파이-2(62점)는 5위, 메타 라마-2(60점)는 6위를 각각 기록했습니다. 조사 대상 모델의 평균 점수는 58점으로 나타났습니다.

연구진은 "데이터의 투명성이나 실제 영향력 측면에서 (지난해 10월에 비해) 거의 진전이 없다는 사실에 다소 실망했다"면서, "AI 개발자들은 모델 학습에 사용하는 저작권이 있는 데이터, 해당 데이터에 액세스할 수 있는 사람, AI 가드레일이 얼마나 효과적인지는 계속 비밀로 하고 있다"고 말했습니다.

한 걸음 더

유럽연합에서는 이런 논란에 대응이라도 하듯, 세계 최초로 포괄적 성격의 인공지능 규제법 시행을 확정했습니다. 이 법은 2021년 초안이 발의됐는데, 2022년 챗GPT 등 생성형 AI 등장과 함께 부작용에 대한 우려가 확산하면서 입법에 속도가 붙었습니다.

EU 27개국으로 구성된 교통·통신·에너지이사회는 현지시각 21일 벨기에 브뤼셀에서 열린 회의에서 'AI법'을 최종 승인했다고 밝혔습니다. 이 법은 다음 달부터 발효되는데요. 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되며 12개월 이후부터는 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대한 규제가 시행됩니다. 2026년 중반 이후부터는 전면 시행됩니다.

(남은 이야기는 스프에서)

김수현 문화전문기자 shkim@sbs.co.kr

SBS

국제