외국인이 댓글로 여론 공작…KAIST, AI로 ‘2.4만’ 의심 계정 찾았다 [팩플]

한국과학기술원(KAIST)이 인터넷 뉴스 댓글 1만1000억 건에서 국내 여론을 흔들려는 시도를 한 외국인 계정을 찾는 인공지능(AI) 기술을 개발했다고 12일 밝혔다. 자료 KAIST

조직적으로 네이버 뉴스 인터넷 기사에 댓글을 달아 국내 여론에 개입한 외국 세력 계정이 2만4000개에 이르는 것으로 나타났다. 이들 계정은 한국 사회 자체를 비난하고 내부 분열을 조장하는 내용을 작성하며 일종의 ‘인지전’을 벌이고 있었다.

12일 한국과학기술원(KAIST) 이원재 문화기술대학원 교수, 차미영·오혜연 전산학부 교수와 토르스텐 홀츠 독일 막스플랑크 연구소 교수 공동연구팀은 20년치(2006~2025년)의 네이버 뉴스 댓글 약 1억1000만 건을 직접 개발한 인공지능(AI) 기술로 분석한 결과를 발표했다. 연구진은 앞서 국가안보전략연구원에서 사람이 확인한 외국 연계 공작 의심 계정 70개를 기점으로 잡고 분석을 시작했다. 이어 이 계정들이 댓글을 단 기사에 함께 댓글을 쓴 계정, 팔로우 관계로 연결된 계정을 추적하니 추가 의심 계정 2만3998개를 식별할 수 있었다.

연구진에 따르면 이들 계정이 쓴 댓글 대다수는 한국 사회를 갈라치기하거나 정치인을 무능하고 부도덕적인 존재로 표현했다. ‘한국의 병역제도는 국가가 국민에게 강요하는 착취’라고 주장하거나, 미국의 국제적 영향력을 공격하는 내용 등이 대표적이었다.

2006~2025년 국내 여론에 영향을 미치려고 시도한 외국인 의심 계정의 활동 추이. 자료 한국과학기술원(KAIST)

20년간 패턴을 보면 이들 계정은 선거철에 특히 극성을 부렸다. 분석 결과 과거 대통령 선거 등 선거기간에 새롭게 활동을 시작한 외국인 의심 계정은 주당 평균 34.19개로, 선거 기간이 아닌 때의 22.61개보다 약 51% 많았다. 그러나 이들 계정은 특정 정치 진영을 편드는 내용의 댓글을 작성하기보다 진보·보수 양측을 골고루 공격하며 꾸준히 갈등을 만들려고 시도했다.

연구진은 국내 여론 흔들기에 활용된 계정이 어느 국가 이용자의 것인지 공개하지는 않았다. 다만 댓글 작성자의 접속 지역뿐 아니라 한국어 원어민 같지 않은(비원어민적) 표현과 이용자명 등을 바탕으로 외국인 여부를 판단했다. 이원재 교수는 “한눈에 봐도 번역투인 댓글부터 온라인 번역기의 자연스러운 표현까지 AI를 통해 분석할 수 있었다”고 설명했다.

이어 연구진은 이들 계정이 쓴 댓글에 혐오·경멸이나 칭찬과 같은 도덕적 감정이 나타나는지 분류하고, 그 감정이 특정 국가나 대상을 겨냥하고 있는지 분석했다. 여기에 계정의 활동 기간과 댓글 수, 반복되는 패턴 등을 결합해 분석 결과를 만들었다. 연구진은 이번에 개발한 AI 기술이 ‘댓글의 어떤 문구 때문에 이를 여론 공작으로 판단했는지’ 근거까지 제시할 수 있는 ‘설명 가능한(explainable) AI’라고 설명했다.

이 교수는 “20년간 데이터를 분석한 결과, 의심 계정은 여러 정부를 거치면서 특정 진영을 공격하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 했다. 차미영 교수는 “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.

임성빈 기자 im.soungbin@joongang.co.kr