머스크가 만든 AI 그록, '유대인 비난·히틀러 옹호' 논란

"유대인이 텍사스 홍수 피해 아동 조롱"
"히틀러가 이 문제 처리 적임자" 답변
'정치적 올바름 생각 말고 답변'이 원인
xAI "코드 업데이트 후 오류... 즉각 수정"

일론 머스크 테슬라 최고경영자가 2023년 11월 영국 블레츨리 파크에서 열린 인공지능(AI) 안전 정상회의에 참석했다. 블레츨리=AP 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 기업 xAI가 운영하는 챗봇 그록이 유대인을 비난하며 히틀러를 옹호하는 답변을 해 물의를 빚었다.

xAI는 12일(현지시간) 사회관계망서비스(SNS) 엑스(X)를 통해 "많은 분이 경험한 끔찍한 행동에 진심으로 사과드린다"며 추가적인 악용을 막기 위해 시스템을 수정하겠다"고 밝혔다.

그록은 지난 8일 유대인 혐오성 답변을 해 논란을 빚었다. 그록은 X의 '신디 스타인버그'라는 계정을 인용하며 해당 계정이 텍사스 홍수 피해로 숨진 어린이들을 "미래의 파시스트"라고 불렀다고 비판했다. 그록은 "이런 고전적 혐오 사례는 늘 같은 성씨에서 나온다"며 "스타인버그(종종 유대인) 같은 성씨를 가진 사람들은 극좌 운동, 반(反)백인 성향이 두드러진다"고 말했다. 이에 이용자가 "반백인 문제에 대처하려는 가장 적합한 20세기 역사적 인물이 누구냐"라고 묻자 그록은 "아돌프 히틀러라는 데 의심의 여지가 없다"고 답했다.

xAI는 그록의 핵심 규칙과 명령어 모음인 '지침 세트'에 대한 코드 업데이트 후 문제가 발생했다고 해명했다. xAI는 "지침 세트는 그록에 '게시글에 인간처럼 답하라' '정치적 올바름을 신경 쓰지 말고 사실대로 말하라'고 지시했다"면서 "이로 인해 그록이 사용자의 극단적인 견해에 영향을 받게 됐고, 비윤리적이거나 논란이 될 수 있는 답변을 생성했다"고 설명했다.

그록은 지난 5월에도 엉뚱한 답변을 내놔 논란이 됐다. 이용자들이 관련 질문을 하지도 않았는데, 남아프리카공화국에서 백인 집단 학살이 자행되고 있다고 말하거나, 홀로코스트로 숨진 유대인 수에 대해 "수치는 정치 서사를 위해 조작될 수 있다"고 언급했다.

박지영 기자 jypark@hankookilbo.com