Don’t fall into the trap of fake news (KOR)

In this complicated war over information, verification of authenticity cannot be monopolized by even the most competent government or even the most talented journalist.

PARK SU-RYEONThe author is head of the IT industry news department at the JoongAng Ilbo. Can we really win this war? I am talking about the war on fake news. Certainly, fake news is the enemy of democracy, and not just because of the unprecedented determination of the president or prime minister.

The Korea Communications Commission (KCC) took the lead. Within a month of Chairman Lee Dong-kwan’s inauguration, the mighty media watchdog launched a “fake news eradication taskforce.” The chairman, who called internet media Newstapa’s maliciously-edited interview with Kim Man-bae shortly before the last presidential election a “national scandal,” set the direction of the battle by mentioning “one strike out.”

Meanwhile, it has been revealed that the number of “cheering” reactions for the Hangzhou Asian Game on portal site Daum was manipulated. The task force of the KCC was elevated to an inter-ministerial body earlier this month.

The internet news outlet that slyly edited the interview, the media companies that published them without verifying, and the platforms which let 87 percent of the clicks on domestic services come from abroad, must not avoid responsibility.

All of them were incompetent. The entire media is devastated by the criticism that “the press is no different from people who spread rumors.” The complacency of the portal, which provides information to tens of millions of people, is striking enough to evoke memories of the infamous “Druking comment manipulation” in 2017.

But the blade of the sitting power aimed at the media is not reliable, either. While it is threatening to the media outlet or platform in question, I am not sure that the blade could protect democracy beyond 2023.

First, it is a mistake to adopt fake news as a battle term. There are so many things online that affect opinions besides news. The cost of maliciously manipulating information and spreading it on social media is too cheap in Korea.

The global media industry calls it “disinformation” rather than fake news and seeks policy and technological solutions together. There are also concerns that the term that combines “fake” with “news” rather encourages distrust in “real news” that stays faithful to verifying facts.

Nevertheless, as the government wields its own sword, only the debate about the definition of fake news is heated now at the legislative audit of the government. In reality, it is not easy for the government to identify fake news. According to the technology and media industry, generative AI technologies such as ChatGPT are risky for their high likelihood of being abused to create personalized propaganda messages with private information on social media. In other words, the method of inciting collective public opinion by manipulating comments or interviews is outdated, while the number of faceless AI attackers will increase exponentially.

In this complicated war over information, verification of authenticity cannot be monopolized by even the most competent government or even the most talented journalist. Citizens who have witnessed the failure of the media war in the previous administration feel uneasy.

Does the current administration really not know that you can’t catch a cow with a knife that was used to catch a chicken? Are they feigning innocence even though they know it? I hope neither is the case.

가짜뉴스 단속 ‘칼’이 불안한 이유박수련 IT산업부장

우리는 이 전쟁에서 이길 수 있을까.

‘가짜 뉴스’와의 전쟁 말이다. 대통령이나 국무총리의 비장한 선언이 아니더라도, 가짜 뉴스가 민주주의의 적이란 걸 부인할 이는 없다. 총대를 멘 건 방송통신위원회다. 이동관 위원장 취임 후 한 달 만에 방통위는 ‘가짜뉴스 근절TF’를 출범했다. ‘뉴스타파의 김만배씨 허위 인터뷰’를 “국기문란”이라 평가한 방통위원장은 “(가짜뉴스 보도 매체를 즉시 퇴출하는)원스트라이크 아웃제”를 언급하며 전투의 방향을 잡았다. 와중에 포털 다음에선 아시안게임 응원 클릭이 조작된 정황이 드러났다. 방통위TF는 이달 초 범부처TF로 확대됐다.

인터뷰 내용을 교묘하게 편집한 언론사, 그걸 검증 없이 받아쓴 언론사, 국내용 서비스의 클릭 80% 이상이 해외에서 유입된 상황을 방치한 플랫폼 모두 책임을 피할 길이 없다. 무능했다. “지라시 유포자들과 뭐가 다르냐”는 비판에 언론계 전체가 참담하다. 수천 만 명에 정보를 서비스하는 포털의 안일함은 2017년 ‘드루킹 댓글 조작’의 충격을 되살리기에 충분하다.

그런데 이들을 겨누는 권력의 칼날 역시 미덥지가 않다. 문제의 언론사나 기업엔 위협적이지만, 그 칼이 2023년 이후의 민주주의를 지킬 수 있을지는 모르겠다. 우선, 정쟁으로 오염된 지 오래인 ‘가짜 뉴스’를 전투 용어로 채택한 것부터 패착이다. 뉴스 말고도 온라인 여론에 영향을 미치는 콘텐트는 너무 많다. 악의적으로 정보를 조작해 SNS에 유포하는 비용은 너무 싸다. 글로벌 미디어 업계가 가짜 뉴스 대신 ‘허위 조작 정보’(disinformation)로 칭하고, 정책적·기술적 대책을 함께 찾는 배경이다. ‘가짜’와 ‘뉴스’를 결합한 용어가 사실 검증에 충실한 ‘진짜 뉴스’에 대한 불신마저 부추긴다는 우려도 크다.

그런데도 정부가 직접 칼을 휘두르니, 국감에서 ‘가짜 뉴스의 정의가 뭐냐’는 공방만 반복된다. 현실적으로 정부가 가짜 뉴스를 판별하기도 쉽지 않다. 기술·미디어 업계에 따르면, 챗GPT 같은 생성AI 기술은 SNS의 사생활 정보로 개인 맞춤형 프로파간다 메시지를 짜는 데 악용될 위험이 크다. 댓글이나 인터뷰 조작으로 집단 여론을 선동하는 방식은 구식이며, 얼굴 없는 AI 공격자가 기하급수적으로 늘 거란 얘기다.

우리의 ‘정 공간’을 둘러싼 이 복잡한 전쟁에서 진위 검증은 아무리 유능한 정부도, 아무리 잘난 기자도 독점할 수 없다. 전 정권에서 그 전쟁의 실패를 목격한 시민들은 불안하기만 하다. 닭 잡던 칼로 소를 잡을 수는 없다는 걸, 이번 정부는 정말 모르는 걸까. 알고도 모르는 체하는 걸까. 둘 다 아니길 빈다.