“생성AI 허위정보, 선거에 영향 우려” 머스크와 갈라 선 트위터 前 임원 [팩플]

“생성AI 기술은 팩트체킹 속도를 높일 수도 있지만 허위 정보를 더 빠르게 만들어내 선거에 지대한 영향을 미칠 것이다.”

지난달 29일 서울 강남구 코엑스에서 열린 ‘글로벌팩트10’ 컨퍼런스에 참석한 요엘 로스(35) 전 트위터 신뢰·안전 글로벌 책임자는 중앙일보와 인터뷰에서 이같이 말했다. 그러면서 그는 “정부 규제와 테크 기업의 기술·보안 투자가 필요하다”고 강조했다. 그는 2021년 도널드 트럼프 전 미국 대통령의 트위터 계정 영구 정지를 주도한 것으로 유명하다. 지난해 10월 일론 머스크가 트위터를 인수한 뒤 회사를 떠나 미국 UC 버클리대 카네기 국제평화재단 연구원으로 소셜미디어 안전과 허위 정보의 위험성 등을 연구하고 있다.

지난달 30일 서울 강남구 코엑스에서 열린 국제 팩트체크 콘퍼런스 '글로벌팩트 10(Global Fact 10)' 마지막 날 행사에서 요엘 로스 전 트위터 신뢰·안전 책임자가 발언하고 있다. 서울대 팩트체크센터 제공

이날 요엘 로스는 트럼프 전 대통령 계정을 정지시킨 이유에 대해 “팔로워가 가장 많은 국가의 수장인데 폭력을 조장했고, 극우 인사들이 이를 실어 날랐다”면서 “폭력 조장이 가장 큰 이유였다”고 말했다. 구체적으로 “2021년 1월 6일 미국 국회의사당 난입 사건으로 트럼프의 트위터 계정 3개를 정지했는데, 이때 140개의 규칙을 적용했다”면서 “처음엔 12시간 동안 트럼프 계정의 기능을 일시정지 했는데, 다시 폭력 조장하는 글을 올려 트위터 정책에 어긋났기 때문에 계정을 영구적으로 정지할 수 밖에 없었다”고 설명했다.

2021년 1월 트위터는 도널드 트럼프 전 미국 대통령 트위터 계정을 영구히 정지했다. [트위터 캡처]

━

머스크와 갈등-퇴사 “트위터 안전 축소 우려”

그는 지난해 10월 일론 머스크 테슬라 최고경영자(CEO)가 트위터를 인수할 당시, 이를 지지했지만, 머스크와 ‘트위터 블루’ 서비스를 두고 갈등을 빚다 퇴사했다. 트위터 블루는 광고 중심인 트위터의 수익 개선을 위해 도입한 유료 서비스. 사용자가 월 7.99달러를 내면 트위터가 본인 인증 표시(블루체크)를 해주는 서비스다. 요엘 로스는 “머스크가 트위터를 인수하겠다고 했을 때, 회사를 효율적으로 변화시킬 것으로 기대했다”며 “머스크는 인종주의를 줄이고 위험한 콘텐트를 신속하게 줄이라고 지시했지만, 동의할 수 없는 결정도 많았다”고 말했다. 그는 “트위터 블루 인증은 사칭이 아니라 본인을 확인하는 제도다. 이를 유료화할 경우 계정 사칭 문제가 발생하고 더 큰 혼란과 위험이 발생할 수 있다”고 주장했다.

요엘 로스는 트위터가 허위 정보 관리에 있어서 변화의 기로에 서 있다고 평가했다. “트위터가 코로나, 선거 등 위기 상황과 관련한 허위 정보를 필터링했는데, 머스크 인수 이후 콘텐트 및 허위 정보 관리 팀을 없애고 직원들을 해고했다”는 이유에서다. 요엘 로스는 자신이 “내가 트위터를 떠날 당시에 200명이던 신뢰·안전팀이 지금은 완전히 사라졌다”며 “아동 성 착취나 불법 거래, 테러 방조 행위 등을 감시하는 팀이 현재 많이 축소돼, 관련 문제들을 잘 해결할 수 있을지 의문”이라고 말했다.

지난달 29일 서울 강남구 코엑스에서 국내 언론과 인터뷰를 하고 있는 요엘 로스. 여성국 기자

요엘 로스는 “누군가의 표현의 자유가 타인에게 해를 끼칠 경우 안전을 우선해야 한다”면서 플랫폼의 적극적인 역할을 촉구했다. 이런 방향이 수익성에도 도움이 된다고 주장했다. 그는 “트위터 이용 중단 이용자들에게 ‘왜 트위터를 더 쓰지 않냐’고 설문 조사를 해보니 가장 많은 응답이 ‘안전하지 않다고 느낀다’는 것이었다”면서 “이들로부터 ‘허위정보에 트위터가 개입하면 좋겠다’는 답이 많았다”고 밝혔다.

━

“생성 AI 허위정보 생산, 규제 필요”

그는 “정치적 맥락에서 AI 사용에 대한 규제가 절대적으로 필요하다”고 강조했다. 요엘 로스는 “AI 관련 규제 논의는 정당하다. 생성AI는 허위정보를 만들어낼 수 있고, AI가 사실을 꾸며내는 것이 큰 문제를 일으킬 수 있다”면서 “정부는 유해성을 규제하고, 테크 기업도 (허위 정보 확산을 막기 위한) 기술과 보안 투자를 통해 예방해야 한다”고 말했다. 이어 “AI는 팩트체킹 속도를 높일 수 있지만, 허위정보를 빠르게 양산할 수도 있어 선거 등에 지대한 영향을 미칠 것”이라고 경고했다.

아시아에서 처음 열린 이번 ‘글로벌팩트10’은 지난달 28일부터 3일간 열렸다. 서울대 팩트체크센터는 “올해 글로벌팩트10의 대면 참석자는 75개국 550여명으로 2014년 글로벌 팩트가 시작된 이후 가장 많은 국가에서 최다 인원이 참석했다”고 밝혔다.

여성국 기자 yu.sungkuk@joongang.co.kr