AI시대 언론, 꼭 지켜야 할 두가지 [미디어 전망대]

생성형 인공지능(AI)이 빠르게 국내외 언론 뉴스룸에 스며들고 있다. 게티이미지뱅크

천현진 | 국립순천대 애니메이션문화콘텐츠스쿨 학술연구교수

최근 종합편성채널 엠비엔(MBN)이 세종호텔 해고 노동자 체포 소식을 전하며 인공지능(AI) 생성 이미지를 자사 페이스북에 게시했다. 문제는 당시 현장 상황과 인공지능이 만든 이미지 사이에 큰 차이가 있었다는 것이다. 더구나 실제 노동자들이 체포됐던 현장 사진이 있음에도 인공지능 이미지를 사용했다는 사실이 논란을 키웠다.

사진과 영상은 보도의 보조 자료가 아니다. 텍스트보다 더 강한 사실성을 갖는 기록이다. 독자는 이미지를 통해 사건을 ‘있었던 일’로 받아들인다. 그러나 생성형 인공지능이 만들어내는 장면은 현실이 될 수 없다. 실제 기록이 아닌 알고리즘이 구성한 결과이기 때문이다. 그 과정에는 맥락의 생략과 왜곡, 보이지 않는 편향이 개입한다.

그렇다고 인공지능 활용 자체를 문제 삼을 수는 없다. 생성형 인공지능은 빠르게 뉴스룸에 스며들고 있다. 기사 요약과 번역, 데이터 분석 등에서 이미 업무 효율을 높이는 조력자 역할을 한다. 문제는 진실을 첫번째 원칙으로 삼는 저널리즘의 본질을 침범할 때다. 미국 언론인이었던 빌 코바치와 톰 로젠스틸이 공저한 ‘저널리즘의 기본 원칙’에서 첫번째로 제시한 것은 ‘진실에 대한 의무’다. 진실은 단순한 주장이 아니라 확인과 교차 검증을 거친 사실에 기반을 둔다. 그렇기 때문에 존재하지 않은 장면을 존재한 것처럼 제시해서는 안 된다.

외국에서도 유사한 사례가 있었다. 미국 아이티(IT) 전문매체 시넷(CNET)은 생성형 인공지능으로 작성 한 기사 77건 중 41건에서 사실 오류와 표절이 발견돼 정정에 나섰다. 워싱턴포스트 역시 2019년 시리아 도시를 묘사한 인공지능 생성 이미지를 충분한 고지 없이 게재해 논란이 됐다. 인공지능이 빚어낸 환각 현상과 조작된 자료는 대중이 진실과 거짓을 구분하려는 의지 자체를 약화하고, 결국 ‘뉴스 피로감’을 키운다.

이러한 문제를 인식한 국내외 주요 언론사와 단체들은 기준을 세우고 있다. 에이피(AP)는 인공지능이 생성한 결과물을 ‘검증되지 않은 출처’로 간주하며, 사진과 영상의 요소를 추가하거나 삭제하는 데 인공지능 사용을 금지한다. 국내에서도 한국기자협회 등 언론 6단체가 ‘언론을 위한 생성형 인공지능 준칙’을 제정하고 “기자가 확인과 검증을 할 수 없는 내용이라면 인공지능으로 생산해서는 안 된다”고 명시했다. 실제 사진·영상·오디오를 인공지능으로 변형하거나 합성하는 행위도 원칙적으로 금지했다.

빠르게 밀려오는 기술의 파고 속에서 언론은 무엇을 지켜야 하는가. 핵심은 ‘투명성’과 ‘인간의 통제’다. 인공지능 관련 기준 마련과 함께 독자가 콘텐츠의 출처를 확인할 수 있는 기술적·제도적 장치도 도입될 필요가 있다. 어도비, 마이크로소프트, 비비시(BBC), 오픈에이아이(OpenAI) 등이 참여하는 ‘콘텐츠 출처 및 진위 확인을 위한 연합’(C2PA)은 생성형 콘텐츠에 제작 이력을 남기는 표준을 제시한다.

그러나 어떤 기술도 최종 판단을 대신할 수 없다. 인공지능은 어디까지나 보조 도구일 뿐, 최종 게이트키퍼는 인간이어야 한다. 뉴욕타임스는 기자들에게 “대형언어모델의 결과물은 신뢰 여부를 확인할 수 없는 취재원처럼 의심하고 다루라”고 교육한다. 맥락을 짚고 윤리적 잣대로 사실을 검증하는 일은 인간 기자만의 고유 영역이기 때문이다.

경찰과 노조원의 대립 장면은 프롬프트가 만들어낸 허상이었지만, 대중이 느끼는 신뢰의 상실은 현실로 남는다. 기술이 아무리 발전해도 저널리즘의 원칙은 변하지 않는다. 검증할 수 없다면 쓰지 않는다. 언론의 가장 강력한 무기는 알고리즘이 아니라 철저한 인간 검증과 타협하지 않는 윤리다.