가짜뉴스, AI시대에는 어떻게 될까[김현아의 IT세상읽기]

생성형AI가 웹사이트 만들고 기사쓰는 시대
저널리즘 복원이 답인데..확증편향 막을 수 있을까
AI가 만든 허위정보 가려낼 기술 대책도 완벽하지 않아

[이데일리 김현아 기자]

지난 3월, 소셜미디어에 프란치스코 교황이 흰색 패딩을 입고 있는 사진이 퍼지며 화제를 모았다. 그러나 이는 이미지 생성 인공지능(AI)툴인 미드저니(Midjourney)가 만든 ‘가짜’ 이미지인 것으로 드러났다. 사진=트위터

미드저니(Midjourney)가 만든 도널드 트럼프 전 미국 대통령의 가짜 체포 사진. 엘리엇 히긴스 트위터

‘미드저니’가 만든 가짜 사진들은 아직 완벽한 건 아니다. 프란치스코 교황 사진만 해도 자세히 보면 안경의 그림자가 곡선이고 손이 자세하지 않아 사진과 구별된다. 출처=박아란 고려대 미디어학부 교수

이른바 ‘가짜뉴스’에 대한 정의나 법적 규제 여부에 대한 사회적 합의가 이뤄지기도 전에, 인공지능(AI)이 생성한 ‘허위정보’가 늘어나고 있습니다.

명령어를 입력하면 글을 작성하고, 그림을 그리고, 웹사이트를 만들어주는 AI 도구들이 등장하고 있기 때문입니다. ‘챗GPT’나 ‘클로바X’와 같은 글쓰기 도구뿐 아니라, ‘미드저니’나 ‘칼로’와 같은 이미지 생성 도구, 웹사이트 생성 도구인 ‘미쏘’, 사진을 영상과 음성으로 변환해주는 ‘디아이디’ 등이 시장에 이미 나와 있습니다.

그런데 이러한 AI로 생성된 콘텐츠를 인간이 만든 콘텐츠와 구분하기가 점점 어려워지고 있습니다.

지난 3월에는 흰색 롱패딩을 입은 프란치스코 교황의 사진이 “센스있다”는 찬사와 함께 각국 소셜 미디어에서 수백만 건의 조회 수를 기록한 사례가 있었는데, 이 사진은 이미지 생성 AI도구인 ‘미드저니’가 만든 것으로 밝혀졌습니다.

도널드 트럼프 전 대통령이 경찰에 체포되는 모습의 이미지 역시 ‘미드저니’가 생성한 것으로 확인됐습니다. 사실과 다른 가짜 정보가 확산하고 있는 것이죠.

AI 기술의 발전은 가짜 사진에만 그치지 않을 것으로 보입니다. 음성 합성 기술이나 디지털 휴먼 생성 기술도 높은 수준으로 발전하고 있어, 머지않아 가짜 영상이 우리를 더욱 혼란스럽게 할 것 같습니다.

그런데, AI 기술의 발전은 가짜 정보와 혼동되는 정도를 넘어 언론 생태계의 약화를 부추길 우려도 큽니다.

실제로 ‘미쏘’라는 AI 홈페이지 자동 생성 도구를 사용해 보니 5분 만에 ‘삼데일리’ 웹사이트를 만들 수 있었습니다. 이런 방식으로 웹사이트를 만들고, ‘챗GPT’와 같은 채팅 로봇을 활용하면, 하루에 수십 개의 기사를 취재하지 않고도 만들 수 있습니다.

너무 쉽고 비용도 거의 들지 않아 언론계에 기자를 고용하고 취재해서 사실을 확인하는 팩트체크의 필요성을 줄일 우려가 있습니다.

박아란 고려대 미디어학부 교수는 이를 ‘저널리즘의 종말’이라고 했습니다. 그는 뉴스 생산 구조의 변화로 AI 기자나 온라인 가십성 기사가 번성하고, 팩트 검증 기능이 약화하는 현실을 안타까워했습니다.

‘미쏘(홈페이지 생성AI ‘미쏘(www.mixo.ai)’’로 기자가 만든 삼데일리 사이트. IT전문 매체의 홈페이지를 부탁했는데, 커스터마이징하려면 유료로 돈을 내야 한다.

최근에 고려대기술법정책센터(센터장 이성엽 교수)에서 개최된 AI 윤리법제 포럼에서는 이러한 중요한 주제에 대한 논의가 진행됐습니다.

하지만, 대응책에 대해선 명확한 결론을 내지는 못했습니다.

언론사 입장에서 ‘가짜뉴스’를 방지하려면 사실을 기반으로 한 보도와 언론사 내부의 팩트 체크 시스템, 권력에 대한 감시 기능을 강화해야 합니다.

하지만, 이러한 작업이 정치나 언론에 대한 신뢰도 하락을 틈타, 확증 편향을 악용하는 편향된 뉴스를 막을 충분한 대응이 될지는 솔직히 확신할 수 없습니다.

이날 참석한 교수님 중 한 분은 “외국과 달리 한국 국민이 뉴스 앱을 다운 받아 구독하지 않는 이유는 언론사들이 각자의 프레임에 따라 보도하고 있다고 보기 때문”이라고 하시더군요.

한국의 뉴스 이용자들은 여러 매체를 동시에 봐야, 비로소 진짜 뉴스를 볼 수 있다고 생각하는 것 같습니다.

실제로 아래, <로이터 디지털 뉴스리포트 2022>에 따르면 한국은 뉴스를 언론사 웹사이트나 앱에서 보는 비중이 조사 대상 46개국 중 꼴찌입니다.

<로이터 디지털 뉴스리포트 2022>. 출처=박아란 고려대 미디어학부 교수

기술적인 대책 역시 100% AI가 생성한 가짜뉴스를 식별할 수 있을지 불투명한 상황입니다.

IT 업계에서는 AI 콘텐츠에 ‘워터마크’를 부여하거나, 콘텐츠를 블록체인 원장에 기록해 진위를 검증하는 방안을 제안하고 있지만, 완벽하지 않다고 합니다.

AI 생성 콘텐츠에 눈에 띄지 않는 워터마크를 적용하는 ‘Synth ID 기술’을 개발한 구글 딥마인드와, 블록체인을 활용한 디지털 사진의 진위 인증 기술을 개발한 캐논 등 기업들은 여러 방법을 시도하고 있지만, 현재 수준은 한계적이라고 합니다.

임종인 고려대 정보보호대학원 석좌교수는 이러한 대응 방법에 대해 의심을 표시했습니다. 그는 “AI를 활용해 선거 기간에 여론을 조작하는 행위를 포착하는 게 어렵다”면서“기술적인 측면에서는 완벽한 대응이 없을 것”이라고 했습니다.

개인적으로는 선거 기간에 ‘AI 활용 콘텐츠’라는 출처를 명시하도록 규정하고, 표기하지 않은 채 진짜 발언처럼 만들어 여론을 왜곡했다면 엄중한 벌을 줘야 한다는 생각이지만, 이러한 조치가 완벽한 대응이 될 지는 장담하기 어렵습니다.

김현아 (chaos@edaily.co.kr)