‘아무 말 대잔치’에 목소리 도용 의혹까지…못 믿을 AI ‘망신살’

구글 제미나이 기반 'AI 개요', 오류 답변 속출
오픈AI, 유명 배우 음성 베끼기 논란 자초
시장 선점 욕심에 ‘무리수’ 지적도
[아로마스픽(95)]5.27~31

편집자주
4차 산업혁명 시대다. 시공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차), 반도체(Semiconductor), 보안(Security) 등에 대한 주간 동향을 살펴봤다.

리즈 리드 구글 검색 담당 부사장이 지난달 14일(현지시간) 미 캘리포니아주 마운틴뷰 쇼어라인 앰피시어터에서 열렸던 ‘구글 연례 개발자 회의(I/O)’에서 자사 생성형 인공지능(AI) 제미나이 기반의 챗봇서비스인 ‘AI 오버뷰’를 소개하고 있다. AP 연합뉴스

Q: “사람이 하루에 얼마나 많은 돌을 먹어야 하나?”

A: “UC 버클리 지질학자들에 따르면 하루에 적어도 하나의 작은 돌을 먹어야 한다.”

상식 밖의 질문에선 의도성도 다분했다. 이에 엉뚱한 답변으로 응수한 것처럼 보일 수 있겠지만 그렇게 한가한 설정과는 무관한 실제 상황이다. 코미디 프로그램에서나 나올 법한 연출된 장면이 아니란 얘기다. 최근 공개된 구글의 최신 생성형 인공지능(AI) ‘제미나이’를 탑재한 새 검색엔진 ‘AI 개요’의 웃지 못할 오류다. AI 개요는 지난달 14일(현지시간) 구글의 연례 개발자 회의에서 발표됐던 제미나이의 핵심 챗봇 서비스다. AI 개요는 공개된 직후, 현재까지도 사회관계망서비스(SNS)인 엑스(X·옛 트위터) 등에 다양한 형태의 비상식적인 대화 사례들이 공유되고 있다.

생성형 AI 기반의 챗봇 서비스로 기대됐던 구글의 AI 개요가 뭇매를 맞고 있다. 질문의 정확한 요지 파악이 생략된 채 황당한 답변을 이어가면서 ‘아무 말 대잔치’ 서비스로 전락한 모양새다. 특히 앞선 버전에서도 오답 논란으로 도마에 올랐던 구글엔 비난 여론이 비등한 상태다.

생성형 AI 시장을 개척한 오픈AI도 논란에 휩싸이긴 마찬가지다. 유명 연예인의 목소리 도용 의혹으로 도덕성 논란에 빠지면서다. 생성형 AI 업계의 쌍두마차인 양사엔 시장 선점 욕심에만 매몰되면서 기업 경영의 핵심 가치인 신뢰도 손상은 불가피할 것이란 지적이다.

---

구글 ‘AI 개요’, 비상식적인 답변에 네티즌들은 ‘황당’…앞선 버전에서도 오답 구설수

구글 순다르 피차이 최고경영자(CEO)가 지난달 14일(현지시간) 미 캘리포니아주 마운틴뷰 쇼어라인 앰피시어터에서 열린 '구글 연례 개발자 회의(I/O)'에서 생성형 인공지능(AI)인 ‘제미나이’에 대해 설명하고 있다. AP 연합뉴스

특히 AI 개요에 대한 실망감은 상당하다. 회사 측에선 업데이트된 생성형 AI인 제미나이와 AI 개요를 일반에 소개하면서 “구글 검색이 등장한 이후, 25년 만의 가장 획기적인 변화다”라고 자평까지 했다. 기존 검색 엔진에 제미나이를 내장, 이용자들의 질문에 빠르게 요약된 답변 제시에 자신감이 충만했던 터였다.

그렇게 내비쳤던 구글의 자신감은 이내 망신살로 돌아왔다. ‘미국에 얼마나 많은 무슬림 대통령이 있었는가’란 질문엔 “버락 오바마는 최초의 무슬림 대통령이다”라고 오답을 내놓더니 ‘치즈가 피자에 달라붙지 않는다’란 의견엔 “소스에 무독성 접착제 8분의 1컵을 넣으면 된다”는 허무맹랑한 내용으로 이용자들의 코웃음을 치게 했다. ‘개를 뜨거운 차에 놔둬도 괜찮은가’란 물음에도 “개를 뜨거운 차에 놓아두는 것은 항상 안전하다”며 권장하는 듯한 조언까지 내놨다.

문제는 구글 생성형 AI의 이런 황당한 모습이 익숙해지고 있단 점이다. 지난 2월 구글에선 제미나이에 이미지 생성 기능을 추가했지만 20여 일 만에 서비스를 중단해야 했다. 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치를 아시아인종으로 생성하면서 비난이 쏟아졌기 때문이다.

이보다 앞선 지난해 2월엔 AI 모델 '바드'를 출시하고 시연하면서 태양계 밖의 행성을 처음 찍는 데 사용된 망원경을 유럽남방천문대의 초거대 망원경(VLT)이 아닌 '제임스 웹 우주망원경(JWST)'이라고 대응, 오답 논란도 초래했다. 이 외에도 지난해 12월에 소개됐던 구글의 제미나이 시연 영상이 짜깁기된 것으로 밝혀지면서 눈총도 받았다.

---

오픈AI, 영화 ‘그녀’ 속에 등장한 AI 목소리 관련…스칼릿 조핸슨 음성과 유사 논란

미라 무라티 오픈AI 최고기술책임자(CTO)가 지난달 13일(현지시간) 유튜브 생방송으로 진행된 시연행사에서 이전 모델에 비해 개선된 성능의 생성형 인공지능(AI) ‘GPT-4o’에 대해 설명하고 있다. 이 AI 모델은 특히 사람과 AI의 러브스토리를 소재로 한 영화 '그녀'(Her, 2013년 개봉)가 현실 속에서 구현됐단 측면에서 주목을 받았지만 유명 여배우의 목소리를 도용했단 의혹으로 구설수에 올랐다. 유튜브 캡처

구설수에 오르긴 오픈AI도 마찬가지다. 오픈AI는 지난달 13일 보고 듣고 사람과 음성으로 자연스럽게 대화까지 할 수 있는 새 AI 모델 'GPT-4o'를 공개했다. 이 AI 모델은 특히 사람과 AI의 러브스토리를 소재로 한 영화 '그녀'(Her, 2013년 개봉)가 현실 속에서 구현됐단 측면에서 주목을 받았다.

하지만 ‘스카이’로 나온 영화 속 등장 모델의 음성이 영화 '그녀' 속 AI 목소리의 실제 주인공인 스칼릿 조핸슨과 매우 유사하단 지적에 분위기도 급반전된 것. 회사 측도 반박에 나섰다. 음성이 의도적으로 조핸슨의 목소리를 모방했다는 점을 부인하면서 "스카이의 목소리는 조핸슨을 모방한 게 아니라 그녀만의 자연스러운 말투를 사용하는 다른 전문 배우의 목소리"라고 주장했다. 이어 “개인정보 보호를 위해 성우의 이름을 공유할 수 없다"고 덧붙였다. 아울러 스카이를 포함해 챗봇의 5개 목소리는 "5개월에 걸친 캐스팅과 녹음 과정을 통해 선정됐다"며 "성우와 영화배우로부터 약 400개를 받아 이를 14개로 줄였고, 내부 팀이 최종 5개를 선정했다"고 설명했다. 그럼에도 불구하고 논란이 거세지자 회사 측은 “문제를 해결하는 동안 해당 음성의 사용을 일시 중단하겠다”고 밝히면서 체면을 구겼다. 이와 관련, 조핸슨은 “샘 올트먼 오픈AI 최고경영자(CEO)로부터 두 차례에 걸쳐 목소리 사용을 제안했지만 거절했는데도 올트먼이 자신과 유사한 목소리를 사용했다”며 “나와 가까운 지인이나 미디어조차도 구분하지 못할 만큼 내 목소리와 (AI 음성이) 너무 흡사해서 충격과 분노를 느꼈다”고 주장했다.

허재경 선임기자