"머스크 챗봇 '그록', 이스라엘-이란 전쟁 팩트체크 부정확"

"정확하고 신뢰성·일관성 있는 정보 제공 능력에 결함"

(서울=연합뉴스) 임화섭 기자 = 일론 머스크의 인공지능(AI) 챗봇 '그록'(Grok)이 이스라엘-이란 전쟁과 관련해 부정확하고 앞뒤가 안 맞는 답변을 내놓았다는 연구 결과가 나왔다고 AFP통신이 24일(현지시간) 전했다.

AFP통신은 미국 싱크탱크 '애틀랜틱 카운슬'의 '디지털 포렌식 연구 랩'(DFR랩)이 이런 연구결과를 발표했다고 전하면서 팩트체크 도구로서 그록의 신뢰성에 대해 또다시 의문이 제기됐다고 지적했다.

DFR랩은 "이스라엘-이란 무력 충돌의 초기 며칠간 그록의 동작을 연구해 보니, 이 AI 챗봇은 위기 시점에서 정확하고 신뢰성과 일관성이 있는 정보를 제공하는 능력에 상당한 결함과 제한을 드러냈다"고 평가했다.

그러면서 "그록은 이미 확인된 사실들을 확인하고, 가짜 비주얼을 분석하고, 미확인 주장을 회피하는 데에 어려움을 겪는다는 점이 입증됐다"고 설명했다.

DFR랩은 그록이 내장된 소셜미디어 플랫폼 X에 다양한 언어들로 올라온 13만개의 게시물을 분석한 결과 그록이 AI로 생성된 미디어의 진위를 확인하는 데에 어려움을 겪는 것으로 나타났다고 밝혔다.

똑같은 AI 생성 영상을 보고 1분 간격도 안 되어서 '파괴되지 않았다'와 '파괴됐다'는 서로 모순되는 결론을 내는 경우도 있었다.

AI 챗봇들이 가짜뉴스를 퍼뜨리는 데 앞장서는 경우도 있다는 게 가짜뉴스 감시기구 '뉴스가드'의 지적이다.

중국이 이란을 돕기 위해 군용 화물기를 보냈다는 가짜뉴스가 퍼지자 그록은 사용자들의 질문에 이런 주장이 사실이라고 답했으며, 경쟁 챗봇인 퍼플렉시티도 같은 답변을 했다.

머스크는 그록이 가짜뉴스를 판별하는 데에 진보 성향 미디어 감시단체 '미디어 매터스 포 아메리카'를 종종 정보 소스로 쓰는 데에 대해 극도의 불쾌감을 드러내기도 했다.

그는 지난 20일 엑스(X)에 "부끄러운 줄 알아라, 그록"이라며 "너의 정보 소스는 형편없다"고 썼다.

머스크는 미디어 매터스 포 아메리카가 X에 대한 광고 불매운동을 벌이고 있다고 주장해왔으며, 최근 연방거래위원회(FTC)가 이에 대한 조사를 벌이면서 법정 공방이 벌어지고 있다.

이 단체는 FTC의 조사가 트럼프 2기 정권 실세인 머스크의 입김에 따른 보복이라고 주장하면서 조사 중단을 요구하는 소장을 23일 워싱턴DC 연방지방법원에 제출했다.

solatido@yna.co.kr

▶제보는 카톡 okjebo

IT/과학