[손현덕칼럼] 램프에서 나온 지니

생성형AI ①
환각은 챗GPT의 운명
팩트체크 반드시 필요
그래도 대단한 기술의 진보
위험하다고 안 쓸 순 없어

영국의 일간지인 파이낸셜타임스(FT)의 룰라 칼라프 편집장이 제대로 한 방을 날렸다. 최근 독자들에게 보낸 그의 '생성형 AI'에 대한 편지를 읽고 나는 선수(先手)를 뺏겼다는 생각이 들었다. 결론은 단순 명료했다. "AI로 기사 작성 안 한다"였다. 퀄리티 저널리즘의 대전제는 독자의 신뢰. 그건 정확한 보도 못지않게 공정함과 투명성도 요구되는 것이라는 전제하에 "FT는 앞으로도 취재, 기사 작성, 편집을 모두 사람 손으로, 특히 해당 분야 최고 전문가의 손으로만 하겠다"고 선언했다.

놀랄 건 없다. 사실 챗GPT로 대변되는 생성형 AI의 본질을 꿰뚫고 있다면 칼라프 편집장의 주장은 당연하다. 극단적으로 말해 AI가 뱉어내는 문장 어느 하나도 그대로 신문에 쓰면 안 된다. 왜냐고? '생성형(generative)'이라는 타이틀에 열쇠가 있다. 그건 AI가 '생성'한 글, 다르게 말하면 언론이 가장 듣기 싫어하는, 해서는 안 될 '작문' 한 글이기 때문이다.

신문사에 들어오면 귀에 못이 박히도록 듣는 말이 '팩트'다. 언론인들은 '누가, 언제, 어디서' 하는 사실성에 매달리고 세상에서 가장 아름다운 글은 육하원칙으로 이뤄진 문장이라고 믿는 족속이다. 후배 기자들이 취재해 넘긴 기사를 데스킹 보다 사실인지 아닌지 긴가민가할 때 하는 말, "너 이 기사 작문 아니야?" 그렇다. 생성형 AI가 속사포처럼 쏟아내는 글은 작문한 글, 인공지능이 뇌피셜로 쓴 글이다. 오해 마시길. 그래서 나온 게 사실이 아니란 말이 아니다. 사실 확인이 안 됐다는 것. 그래서 언론이라면 100% 확인하고 사용해야 한다. 너무나도 당연한데 칼라프 편집장이 도전적이고 뭔가 있어 보이게 말했다. 그래서 '나도 먼저 그렇게 말할 수 있었는데'라며 물먹은 느낌이 든 것이다.

챗GPT에 어떤 질문을 던지면 속된 말로 '아무 말 대잔치'를 한다. AI는 염치가 없고 부끄러움을 모른다. 물론 맞는 부분이 많긴 하다. 우리가 몇 날 며칠 밤을 새웠는데도 확인 못한 걸 단 몇 초에 알려준다. 그처럼 훌륭한 비서는 없다. 그러나 순도 100%가 아니다. 환각(hallucination) 증세를 보인다. 그래서 팩트 체크가 필요하다.

이런 질문을 할 수 있을 것이다. 앞으로 생성형 AI가 기술적 진보를 거듭해서 환각을 없애는 신제품이 나올 수 있지 않느냐고? 질문에 대한 답은? "그럴 수는 있다. 그러나 어마어마한 돈이 들어갈 것"이다. 감당 불가. 환각은 생성형 AI의 운명이다. 보완할 수 있는 방법은 얼마든지 있을 것이다. 병을 예방할 순 없으나 치료법은 있다는 얘기. 엄청난 기술의 진전으로 유용한 도구를 손에 넣었는데 그게 문제가 있다고 쓰지 않겠다고 한다면 무모하기 짝이 없다. 지난주 한국을 찾은 챗GPT의 아버지 샘 올트먼 등 전 세계 내로라하는 전문가들조차 생성형 AI의 위험성을 경고하면서 규제를 외치는데 '누구 좋으라고'다. 알라딘의 램프에서 나온 지니는 결코 다시 램프 속으로 들어가지 않을 것이다. 사용하지 않으면 손해다. 칼라프 편집장의 편지도 찬찬히 읽어 보면 그런 논지이다. AI 이후 나온 가장 유명한 명언. "AI가 당신을 대체하진 않을 것이다. 그러나 AI를 사용하는 사람이 당신을 대체할 것이다(AI will not replace you. A person using AI will)." '당신'이란 자리에 기자를 넣어도 되고 다른 모든 직업인을 넣어도 맞는 말이다.

챗GPT가 출현한 이후 개인적으로 생성형 AI에 대한 칼럼을 써야겠구나 생각하다 이제야 손을 댔다. 그런데 쓰다 보니 족히 몇 차례는 더 이 이슈를 다룰 수밖에 없다고 판단해 이 글을 시리즈 첫 번째로 했다. 칼럼 순서가 돌아오는 2주 후나 아니면 그 후에 두 번째 이야기를 내보내고자 한다.

[손현덕 주필]