[백원근의 독서출판] 범람하는 AI저자 출판과 출판윤리
[한국독서교육신문 백원근 독서출판평론가]
AI(인공지능)가 쓴 여러 분야의 엉터리 원고를 출판사에서 교정 작업조차 제대로 하지 않은 채 무분별하게 발간한 전자책 약 9천 종(2개 출판사에서 발행)이 서울대 전자도서관에 버젓이 비치되어 있다는 기사가 눈길을 끌었다([단독]AI ‘딸깍 출판’ 최소 9000권, 검증없이 서울대 도서관에 버젓이, <동아일보> 2025.11.27.). 한 출판사는 저자 이름을 AI가 아닌 ‘○○팀’이라고만 밝히고 최근 1년간 무려 7,311권의 전자책을 펴냈다. 출판에서 가장 중요한 절차인 편집(교정·교열) 과정이 통째로 생략된 것으로 추청되는 발행 종수다. 사람이 해야 할 내용 검수까지 AI에게 맡겼을 것이라는 추측이다. 특정 전자책 구독 플랫폼을 통해 공급된 15만 권에 이들 책이 뒤섞여 있었는데, 이런 책들을 검증하거나 걸러낼 방법이 없어서 책을 공급하는 플랫폼이나 공급받는 도서관 입장 모두 난감한 상황이라고 한다.
다른 언론사 기사에서는, 특정 저자 이름으로 4개월 동안 혼자 137권을 쓴 사례를 소개했다(1년에 9000권 펴낸 수퍼 출판사, 그 뒤 AI가 숨어있었다) <조선일보> 2025.11.13.). 철학부터 경제, 의학, 공학에 이르기까지 다양한 분야의 책을 동일한 사람의 이름으로 펴냈지만 어디에도 AI의 도움을 받았다는 표시가 없다는 설명이다. 많은 양의 전자책을 통해 돈벌이를 하려는 상업적 의도가 분명한데, 지식 및 출판 생태계를 심각하게 오염시키는 이런 행태에 대한 적절한 대책 마련이 이루어지지 못하고 있는 실정이다. 이런 전자책을 접해본 독자라면 지식과 정보의 전거(典據) 역할을 해야 할 책에 대한 신뢰가 크게 줄어들 것이다. 출판계에 대한 제 살 깎기나 다름없는 이러한 행태에 대한 출판계 차원의 자구노력이 필요한 시점이다.
위의 사례처럼, 생성형 AI의 활용이 일상화된 시대를 맞이하여 출판 분야에서도 관련 이슈가 계속 생겨나고 있다. 저술 및 출판 관련 활동에서는 출판기획부터 원고 작성, 번역, 편집, 디자인, 제작, 마케팅, 보도자료 작성 등에 이르기까지 AI의 활용이 점차 확대되고 있다. 가장 쟁점이 많은 주제는 역시 저작권 문제다. 글, 그림, 사진, 디자인 등 창작물(저작물)이 온전히 인간의 노력에만 의존해 만들어지던 시대와 달리, 이제 AI의 힘을 얼마나 빌렸는지, 그리고 그것을 정직하게 표기하는지가 관건이다. 물론 아직까지 기준은 없다. 하지만 창작물의 대부분을 AI가 만들어낸 저작물에 작성 주체를 AI라고 표기하지 않거나, 그 대신 사람 이름을 저작자로 표기한다면 심각한 출판윤리 문제가 발생한다.
세계 각국의 출판계에서는 생성형 AI 기업들이 출판물의 내용을 광범위하게 학습시켜 얻어낸 결과물을 상업적으로 무단 활용하는 것을 수년 전부터 경계하며 공개적인 반대 의견을 표명해 왔다. AI에게 출판물 내용을 학습시키려면 정당한 대가를 저작권자와 출판사 등에게 지불해야 한다는 것이다. 또한 요즘 저자와 출판 계약서를 쓰거나 해외 출판사와 번역출판 계약을 맺을 때도 AI의 이용 제한에 대한 주의 의무 조항을 담는 것이 보편화되고 있다. 다만, 아직까지의 기술로는 저술이나 번역 등에서 AI에게 얼마나 의존했는지 정확히 밝혀내기 어렵다는 한계가 있다.
생성형 AI는 인간을 돕는 도구이자 수단일 뿐 인격을 가진 저작권자가 되기 어렵다. 따라서 AI를 이용한 출판 활동이 사회적 역기능을 최소화하려면 지켜야 할 최소한의 원칙을 규범으로 만들어 공유하고 준수하는 합리성이 작동되어야 한다. 이 단계를 벗어날 경우 분쟁과 법적 소송으로 갈 수밖에 없고 불필요한 혼란과 사회적 비용은 더욱 커질 수밖에 없을 것이다.
그 최소한의 원칙이란, AI시대의 출판물에는 “생성형 AI 이용 여부, 만약 이용했을 경우 내역(대상, 방법, 범위 등) 표기 의무화”가 필요하다는 점이다. 이를테면 생산 과정에 대한 정보를 표시하도록 하자는 것이다. 책(종이책, 전자책/웹북, 오디오북, 기타)은 그 저자와 출판사, 콘텐츠에 대한 독자의 신뢰라는 기반 위에서만 생명력을 유지할 수 있다. 어떤 의도이건(주로 상업적 의도로 추정되지만) 독자가 꼭 알아야 할 기본 정보를 제공하지 않는 콘텐츠는 설 자리가 없도록 해야 한다.
소비자기본법은 소비자의 기본적 권리(제4조) 중 하나로 “(소비자의) 물품 선택 등에서 필요한 지식 및 정보를 제공받을 권리”를 꼽고, 국가는 “물품 등에 대한 국가의 표시 기준 제정”(제10조) 의무가 있으며, 사업자는 “물품 등에 대한 정보를 성실하고 정확하게 제공”할 책무(제19조)가 있다고 명시했다. 즉 소비자의 ‘알 권리’를 강조한다. AI시대의 독자들은 책이 누구에 의해 쓰였는지, 진짜 저자가 AI인지 사람인지를 알아야 할 권리가 있다.
어떤 이들은 이에 대하여 ‘출판의 자유’에 반하는 것으로 보기도 한다. 이를테면 저자 이름을 본명이 아닌 예명 또는 필명으로 쓰는 경우가 적지 않고, 상세한 저자 소개를 생략하기도 하는데 특별히 문제될 것이 없다는 것이다. 따라서 AI 이용 여부를 밝히는 것은 독자의 선택에 실제적 도움이 되지 않거나 AI 이용 저작물(양심적으로 일부 이용을 표시한 경우)에 대한 낙인 효과를 초래할 수 있고, AI 이용 여부를 객관적으로 검증할 방법이 없는 상황에서 AI 이용 여부 표시가 소모적인 일이 될 뿐이라고 본다.
그럼에도 불구하고 AI저자의 출현과 AI출판물의 범람은 이전과는 다른 출판 생태계의 변화와 대응을 요구한다. 독자들의 독서 활동에서 점차 전자책의 비중이 늘고 있는 상황에서는 더욱 그렇다. 출판의 자유와 다양성이 원칙적으로 지켜져야 할 중요한 가치임에 분명하지만, 독자의 알 권리(최소한의 콘텐츠 상품 정보)와 건강한 출판 생태계 유지를 위해 최소한의 정보 제공에 대한 출판윤리 차원의 사회적 합의가 필요한 시점이다.
출처 : 한국독서교육신문(http://www.readingnews.kr)