[데스크시각] AI의 질주, ‘진짜’의 위기

지난달 서울에서 열린 한국신문방송편집인협회 주최의 ‘한·일·중 국제 언론문화 교류’ 언론간부 세미나에 참석했다. 주요 주제는 ‘생성형 인공지능(AI) 시대 3국 협력 증진을 위한 미디어 대응 전략’. 챗GPT로 대변되는 생성형 AI 등장으로 급변하는 미디어 환경에 전통매체 기자들은 어떻게 대응해야 하느냐를 두고 열띤 논의가 오갔다.

불과 1년 전인 작년 11월 30일 등장한 챗GPT로 우리 삶은 혁명적인 전환 속에 놓였다. 언론 환경에도 큰 변화가 생겼다. 일부 매체가 생성형 AI를 도구로 콘텐츠를 자동 생산하는가 하면 일선 기자들은 번역, 제목 뽑기, 사례 찾기 등에 적극적으로 챗GPT 등을 활용하는 중이다. 중국 신화통신은 주제 선정 및 기획, 정보 수집, 모바일 뉴스 보도 등에 사용되는 AI 도구를 약 200개 출시한 데 이어 알리바바 바이두 같은 기업과 기술협업하고 AI 합성 앵커를 출시하는 등 3국 중에서 가장 활발하게 생성형 AI를 뉴스 콘텐츠 제작에 활용하는 사례를 이 자리에서 소개했다.

기사 작성에 든든한 ‘비서’ 역할을 하기도 하지만 생성형 AI가 생산하는 뉴스의 부작용도 만만치 않다. 대표적인 게 가짜뉴스다. 최근 나돈 기시다 후미오 일본 총리의 가짜 동영상이나 도널드 트럼프 전 미국 대통령의 체포 장면 등은 이미지나 음성을 따와 이어 붙이고 조작해 만든 가짜 AI 뉴스다. 웃어넘길 수만은 없는 게, 가짜 AI 뉴스들이 쌓이다 보면 이 자체가 하나의 거대한 입력값이 되어 가짜뉴스를 재생산하는 악순환을 만들 수 있기 때문이다. 일본에서도 생성형 AI에 의한 가짜뉴스가 심각한 사회문제가 되자 언론계가 AI가 만든 ‘가짜’가 아닌 기자가 작성한 ‘진짜’ 기사를 인증하는 제도를 추진하고 있다는 일본 요미우리신문 측의 발제가 인상적이었다. 각 기사에 전자 식별자를 활용, 출처나 발신자를 명시하는 ‘원작자 프로파일(Originator Profile·OP)’ 제도를 도입한다는 내용이다. 다시 말해 기사에 일종의 ‘워터마크’를 찍어 정보의 진위를 밝히겠다는 의도다.

3국 기자들과 함께 세미나를 경청하면서 1년 만에 미디어 환경을 급변하게 만든 생성형 AI의 파괴력에 놀랐는데, 얼마 되지 않아 더 충격적인 일이 발생했다. ‘챗GPT의 아버지’인 오픈AI CEO 샘 올트먼이 이사회에 의해 해임됐다가 닷새 만에 오픈AI로 복귀하는 사태가 벌어진 것이다. 올트먼이 애초 해임된 건 AI의 위험성을 지적하며 개발에 속도를 조절해야 한다는 이사회의 경고를 제대로 듣지 않았다는 이유에서인데, 이사회의 참패로 귀결됐다. 기술이 강력해지면 AI가 언젠가는 인류를 멸망시킬 수 있다는 우려가 있으니 개발을 경계하고 속도를 조절해야 한다는 신중론이 결국 개발론에 무릎을 꿇게 된 셈이다. 오픈AI가 올트먼의 해임 사태로 주춤하던 사이 ‘대항마’ 구글은 시야 인식 능력을 갖춘 차세대 AI ‘제미나이’를 전격 발표하며 개발 경쟁에 불을 댕겼다. 높은 AI 밸류에이션(가치평가)에 이제는 ‘수익 창출’로 답해야 한다는 시장의 압박이 가세하면서 생성형 AI의 개발 속도는 가속할 수밖에 없는 상황이 됐다.

고삐 풀린 범용적 인공지능(AGI) 개발의 전장에서, 이 속도대로라면 불과 1년 만에 빠르게 상용화에 성공한 생성형 AI가 1년 뒤에는 어떤 모습으로 변해 있을지, 언론을 넘어 사회 전반은 또 AI에 어떻게 잠식당할지 솔직히 두렵다. 유럽연합(EU)의 ‘AI 법’ 도입 등 생성형 AI 기술의 위험에 대비한 각국의 규제 발걸음도 빨라졌다. 지난달 미국 중국 EU 등 주요국은 고도의 능력을 갖춘 프런티어 AI가 잠재적 파국을 초래할 수 있으므로 위험 대응에 각국이 협력해야 한다는 내용의 ‘블레츨리 선언’을 하기도 했다.

이러한 기술개발에 대한 규제가 속도를 조금 늦출 수는 있어도 방향을 바꾸지는 못할 듯하다. 탈(脫) 진짜 시대, 가짜와 진짜의 주객전도, 기계가 사람을 위협할 수 있는 기술 폭주의 시대에 가장 중요한 건 진짜라는 중심을 지키는 일일 것이다. 미국의 유명 사전 출판사 메리엄웹스터가 선정한 올해의 단어도 ‘진짜의’라는 뜻의 ‘Authentic’이었다.

이선정 경제부장