"트럼프의 트위터 계정 폐쇄는 어려운 결정…폭력조장 때문"

요엘 로스 前 트위터 신뢰안전책임자, 서울 '글로벌팩트10'서 기자회견
"머스크가 인수한 뒤 트위터 허위정보 감시팀 해체"
"SNS상 표현의 자유와 정보 안전 관리는 균형 필요"

(서울=연합뉴스) 이웅 기자 = 요엘 로스 전 트위터 신뢰·안전 책임자가 2021년 도널드 트럼프 전 미국 대통령의 트위터 계정을 폐쇄한 건 "수개월에 걸친 어려운 결정이었고 폭력조장이 가장 큰 이유였다"고 밝혔다.

그는 29일 서울 삼성동 코엑스에서 진행된 국제 팩트체크 콘퍼런스 '글로벌팩트 10(Global Fact 10)' 둘째날 행사에서 가진 기자회견에서 이같이 밝혔다.

그는 일론 머스크 테슬라 최고경영자(CEO)가 지난해 트위터를 인수한 뒤 200명에 달했던 트위터의 허위정보 감시팀이 해체됐다고 설명했다.

또한 소셜미디어(SNS) 상에서 표현의 자유와 정보의 안전 관리를 균형 있게 조화시킬 필요가 있고 허위정보 확산을 막는 방안으로 팩트체크가 중요하다고 강조했다.

그는 2021년 1월 트럼프 지지자들의 미국 국회의사당 난입 사건 직후 트럼프 당시 대통령의 트위터 계정을 영구 정지시키는 결정을 주도했으며, 트위터를 인수한 머스크의 정책에 반발해 지난해 11월 퇴사했다.

그는 30일 글로벌팩트 10 마지막 날 행사 기조발표자로 나선다.

'글로벌팩트10' 대담 중인 요엘 로스 전 트위터 신뢰·안전 책임자 (서울=연합뉴스) 30일 서울 삼성동 코엑스에서 진행된 국제 팩트체크 콘퍼런스 '글로벌팩트 10(Global Fact 10)' 마지막 날 행사에 요엘 로스 전 트위터 신뢰·안전 책임자가 참가해 대담을 하고 있다. 2023.6.30 [SNU팩트체크센터 제공. 재판매 및 DB 금지] photo@yna.co.kr

다음은 일문일답.

-- 트럼프 전 대통령이 트위터로 복귀할 수 있다는 보도가 있다

▲ 정치적인 이유로 국가수반의 (트위터) 계정을 없애는 건 쉬운 결정이 아니다. 2021년 트럼프 계정을 정지시키는 결정은 폭력을 촉진한다는 증거를 갖고 내린 것이다. 복원 얘기 들었는데 이러한 결정이 어떻게 이뤄졌느냐가 중요하다. 심사가 제대로 이뤄졌는지 모르겠다. 계정을 복원할 때는 엄격한 기준을 갖고 피해 유무를 따져서 해야 한다.

-- 과거 트럼프의 계정을 정지시킬 당시 결정 기준은 무엇이었나

▲ 수개월에 걸쳐서 이뤄진 결정이었다. 2021년 1월 6일 국회의사당 난입 사건 때문에 트럼프 대통령의 트위터 계정 3개를 정지했는데 140개의 규칙을 적용했다. 12시간 동안 타임아웃을 줬는데 다시 회사 정책에 어긋나는 폭력을 조장하는 글을 올려서 계정을 원천봉쇄할 수밖에 없었다. 트럼프가 계정을 사용하는 방법은 전례가 없었다. 팔로워도 많고 국가수장인데 폭력을 조장했으며 극우적 사람들이 내용을 실어 나르기도 했다. 폭력조장이 가장 큰 이유였고 회사 방침에 따라 계정을 정지시킬 수밖에 없었다.

-- 트럼프 외에 주의 깊게 지켜본 허위정보 세력이 있었나

▲ 어떤 개인이나 특정 그룹을 감시한 건 아니다. 회사 방침을 위반한 사례가 보고되면 모니터링을 했다. 테러리스트 단체나 폭력 단체 같은 경우 감시를 하고 어린이 성범죄와 관련된 계정은 직접 삭제도 했다. 그 외 정부가 선거나 해외 정세에 개입하는지도 감시했다. 적극적으로 하나의 그룹을 감시하지는 않았다. 트럼프는 예외적인 사례다.

-- 트럼프의 트위터 계정 정지가 플랫폼 권력을 보여준 것이란 지적도 있다

▲ 트럼프는 트위터를 정치적 의견을 드러내는 데 사용했다. 계정 정지는 굉장히 어렵고 심각한 결정이었다.

'글로벌팩트10' 대담 중인 요엘 로스 전 트위터 신뢰·안전 책임자 (서울=연합뉴스) 30일 서울 삼성동 코엑스에서 진행된 국제 팩트체크 콘퍼런스 '글로벌팩트 10(Global Fact 10)' 마지막 날 행사에 요엘 로스 전 트위터 신뢰·안전 책임자가 참가해 대담을 하고 있다. 2023.6.30 [SNU팩트체크센터 제공. 재판매 및 DB 금지] photo@yna.co.kr

-- 트위터가 현재 허위정보에 잘 대처하고 있다고 보나

▲ 지난해 11월 트위터를 나왔는데 이후 트위터는 허위정보를 다루는 데 있어서 변화가 가장 컸다. 트위터는 버드워치(Birdwatch)라는 기능이 있어서 코로나나 선거, 위기 상황과 관련한 허위정보를 필터링해 왔는데, 콘텐츠를 관리하고 허위정보를 가려서 경고하고 팩트체크하는 팀을 없애고 직원들을 해고했다.

-- 머스크의 트위터 인수를 처음에는 지지했다 입장을 바꿔 퇴사했다는데

▲ 머스크가 트위터 인수 의사를 밝혔을 때는 회사를 빨리 효율적으로 변화시킬 수 있을 것으로 생각했었다. 머스크는 인종주의를 줄이고 위험한 콘텐츠를 빨리 줄이라고 지시했으나 아쉽게도 동의할 수 없는 결정도 많았다. 블루체크 인증의 유료화는 신뢰를 깨뜨리는 것이어서 회사를 떠나게 됐다.

-- 블루체크 인증 유료화는 어떤 위험성을 갖고 있나

▲ 블루체크 인증은 사칭이 아니라 본인이라는 걸 확인하는 제도다. 유명 인사는 이런 인증이 중요하다. 이를 유료화하면 사칭 문제를 만들고 혼란과 위험을 유발할 수 있다.

-- 허위정보를 감시하기 위한 직원의 적정 비중은

▲ 최적의 숫자를 말하긴 까다롭다. AI(인공지능)를 이용할지 사람에만 의존할지 기업마다 다를 수 있다. 트위터는 떠날 때 전 세계 8천명 정도 근무하고 1천명 정도의 계약직이 있었는데 우리 팀에는 200명 정도 있었다. 그 팀이 지금은 완전히 날아갔다. 상처, 후유증이 아주 크다. 많은 회사들이 비용 때문에 장기적인 효과를 내다보지 않고 (신뢰·안전) 팀 숫자를 줄이고 있어 우려된다.

-- 트위터 근무 당시 다른 회사 신뢰·안전 책임자와 교류했나

▲ 신뢰·안전 분야는 크지 않기 때문에 서로가 잘 안다. 하지만 결정을 내릴 때는 서로 조율하지 않고 개별적으로 판단한다. 회사마다 정책이 다르기 때문에 서로 개입할 수 없다. 하지만 러시아의 미국 선거 개입과 같은 업계 공동의 문제가 생길 때는 같이 하려고 한다.

-- 트위터를 그만둔 뒤 어떤 일을 하고 있나. 앞으로의 계획은

▲ 캘리포니아 버클리 대학에서 SNS 신뢰·안전 관련 연구를 하고 있다. 앞으로 큰 기업에서 일하는 사람들이 말할 수 없는 SNS에서의 안전 문제를 다뤄보고 싶다.

'글로벌팩트10' 대담 중인 요엘 로스 전 트위터 신뢰·안전 책임자 (서울=연합뉴스) 30일 서울 삼성동 코엑스에서 진행된 국제 팩트체크 콘퍼런스 '글로벌팩트 10(Global Fact 10)' 마지막 날 행사에 요엘 로스 전 트위터 신뢰·안전 책임자가 참가해 대담을 하고 있다. 2023.6.30 [SNU팩트체크센터 제공. 재판매 및 DB 금지] photo@yna.co.kr

-- 허위정보가 생산되고 리트윗되는 건 문제지만 SNS에서 개인의 자유로운 의사 표현도 필요하지 않나

▲ 동의한다. 균형을 잘 맞춰야 한다. 언제 표현의 자유를 인정해주고 언제 경고 라벨(표지)을 붙일지 조화롭게 진행하는 것이 중요한데 쉽지가 않다. 신상정보를 유포하는 경우가 있다면 직접 위해를 끼치기 때문에 안전이 표현의 자유보다 우선이 돼야 한다. 표현의 자유를 보장하면서도 위해를 차단하는 다양한 해법이 있다고 본다.

-- 어떤 회사든 이윤을 염두에 둘 수밖에 없는데

▲ 수익성은 중요한 문제다. SNS에서 콘텐츠 모델을 만들 때 옳은 일이기 때문이 아니라 수익성을 좇는다는 것을 안다. 사람들이 왜 더 이상 트위터를 사용하지 않는지 조사 연구를 했는데 가장 빈번한 답변이 안전하게 느껴지지 않아서라는 것이었다. 콘텐츠를 관리하지 않을 경우 이용자들은 안전하지 않다고 느끼기 때문에 콘텐츠 관리가 필요하다.

-- 허위정보를 막는데 정부나 언론 역할이 필요한가

▲ 가장 중요한 건 사용자다. 커뮤니티가 잘 돌아가도록 하는 것이 중요하다. 정부와 규제기관도 필요하지만 정부가 표현의 자유를 정하는 건 우려스럽다. 책임감과 투명성이 있어야 SNS가 민주적으로 잘 운영될 수 있다고 생각한다.

-- 챗GPT 같은 생성형 AI가 허위정보를 확산시켜 민주주의를 위협할 가능성이 있다는데 바람직한 규제 방향은

▲ AI가 허위정보를 만들어 낼 수 있다고 본다. 우선 정부가 유해성을 규제해야 하고 기업도 기술 투자로 보완해 나가야 한다. 팩트체킹을 할 때 AI를 사용하면 속도를 높일 수 있지만 허위정보를 빠르게 만들 수도 있다. 사회에 지대한 영향을 미치게 될 거로 본다.

-- 허위정보가 유통되는 근본 원인은 무엇이라고 보나

▲ 여러 가지 이유가 있다. 몰라서 일 수도 있고 악의를 가지고 게시하는 사람도 있다. SNS에 게시하는 것 자체를 막을 순 없다. 적극적인 방안으로는 게시물을 적게 올리게 사전 조치를 취할 수 있다. 팩트체크를 하는 것도 굉장히 좋은 방법이다. 삭제하거나 라벨을 붙이는 것 외에 정확한 정보를 올리는 것도 허위정보 확산을 막을 수 있는 방법이다.

팩트체크 콘퍼런스 '글로벌팩트10(Global Fact 10)' (서울=연합뉴스) 28일 서울 강남구 코엑스에서 세계 최대 팩트체크 콘퍼런스 '글로벌 팩트 10(Global Fact 10)'이 열리고 있다. 2023.6.28 [SNU팩트체크센터 제공. 재판매 및 DB 금지] photo@yna.co.kr

abullapia@yna.co.kr

▶제보는 카톡 okjebo