1년에 9000권 펴낸 수퍼 출판사, 그 뒤 AI가 숨어있었다

출판계 뒤흔드는 AI 작가 서적
AI로 하루에 책 12권 쏟아낸 작가, 책·작가 소개에 이용 사실 안 밝혀
서점들 출판 규모 파악조차 못해
책 본 교수 “예상보다 수준 높지만 이름 등 오류, 같은 문체 반복 한계”

1년에 9000권, 하루 스무 권 넘는 책을 찍어내는 ‘수퍼 출판사’가 나타났다. 비결은 AI(인공지능). 별도 인쇄 비용이 들지 않는 전자책 시장엔 이미 AI 저자들이 넘쳐난다. 하지만, ‘AI가 썼다’고 밝히는 경우는 별로 없어 독자를 속이는(cheating) 행위라는 지적이 나온다. 교보문고 등 국내 대형 서점도 “AI 책 저자가 얼마나 많은지 확인이 힘들다”고 털어놓았다. AI 출판물의 품질은 교양·입문서를 짜깁기한 수준에서 전문 분야 교수들의 연구를 집대성한 듯한 수준까지 천차만별이었다. 저작권 침해를 포함해 사람이 쓴 것처럼 독자를 오인케 하는 등 AI의 출판 생태계 교란이 시작됐다는 우려가 커지고 있다.

그래픽=Gemini·이진영

◇대형 출판사 한 달 치를 하루 만에 펴내는 AI 출판사

인터넷 교보문고에 등록된 A출판사는 2024년 8월부터 이달 5일까지 9175권의 책을 출간했다. 청소년용 수학책부터, 주식 투자서, 심리학 등 거의 전 분야에 걸쳐 하루 평균 21권을 펴내고 있다. 민음사 같은 대형 출판그룹이 많을 때 한 달에 스무 권을 겨우 펴내는 것을 감안하면 엄청난 분량이다. 이 출판사 홈페이지에는 ‘AI 툴’을 ‘작가 회원’에게 제공해 책을 펴낸다고 되어 있었다. AI 툴이 소재와 스토리 구조, 문체 등을 조언하고, 검색에 최적화된 제목도 추천해 준다고 했다.

이 회사엔 ‘최○○’ 이라는 수퍼 저자도 있다. 작년 10월부터 올해 2월까지 혼자서 4개월간 무려 137권을 썼다. 하루에 12권을 출간한 날도 있다. 분야도 철학·예술·입시·의학·공학·경제학 등을 종횡무진해 예술과 과학을 넘나들던 르네상스 시대 지식인 레오나르도 다빈치를 연상케 한다. 최씨의 책을 판매하는 온라인 서점의 ‘책 소개’나 ‘작가 소개’ 어디에도 AI가 썼다는 말은 찾아볼 수 없었다. A출판사는 ‘AI를 어떻게 활용하는지’ ‘출판 윤리에 대해 어떤 고민을 하는지’ 등을 묻는 본지 취재에는 응하지 않았다.

장사가 될까. 많이 팔린 책은 없다고 전해졌다. 출판계 관계자는 “베스트셀러는 못 만들어도 저비용으로 우후죽순 책을 내면 한두 권씩만 팔아도 이익을 모을 수 있다”며 “권당 판매량은 적지만 넓고 다양하게 파는 ‘와이드 셀러(Wide seller)’ 출판사인 셈”이라고 했다.

제과업체 ‘포춘쿠키’는 AI로 와인 교양서 ‘AI가 알려주는 와인의 모든 것’을 냈다. 실물 도서로 출간된 이 책은 작가 대신 ‘프로듀서’라는 직함을 쓰고 있었다. 이 책 제작에 참여한 포춘쿠키 관계자는 “사람이 책을 써 내려가는 통상적 방식이 아니어서 프로듀서로 표기했다”고 말했다. AI도 하나만 쓰지 않고 챗GPT, 제미나이, 미드저니 등 AI 툴 17개를 썼다고 했다. 제작 과정은 AI에 “독자들이 와인에 대해 뭘 궁금해할까?”라고 물어보며 목차를 만들고, 이 목차에 따라 하나하나 AI를 이용해 내용을 집필한다. 삽화도 AI가 그리고, 검수는 다시 다른 AI에 물어 틀린 게 없는지 체크하는 식이다.

공공 분야에서도 손쉽게 AI로 책을 내고 있다. 국가보훈부는 최근 예스24와 군인·소방관 같은 ‘제복 근무자’인 엄마·아빠가 주인공으로 나오는 그림책 시리즈 ‘마이 히어로 북’ 50종을 AI로 만들었다. 국가보훈부 관계자는 “50종이면 2년은 걸릴 기획인데, 4개월도 채 걸리지 않았다”고 했다.

국가보훈부와 예스24가 함께 AI로 만든 그림책 '마이 히어로 북' 소방관편/예스24

◇전문가들 “지식을 잘 집대성” “사람이라면 안 할 실수를 해”

A출판사에서 나온 한 토목공학 학술 용어 책을 조원철(76) 연세대 건설환경공학과 명예교수에게 AI 저작물임을 미리 알리고 평가를 맡겼다. 조 교수는 “틀린 점을 낱낱이 분류해서 알려주겠다”고 했다. 하지만, 이튿날 조 교수는 망연자실한 목소리로 “책 수준이 높고 지식량도 많다”며 “50대 이상 학식이 깊은 교수 열 명이 모여서 쓴 수준”이라는 대답을 들려줬다. 토목공학은 세부 전공 분야가 다양해 교수들도 자기 영역에만 지식이 집중되는 편인데, 이 책은 그 분야를 모두 넘나든다는 것. 예컨대 한 학자가 물리 계통, 화학 계통, 매니지먼트 계통 등 세부 학문을 모두 알기는 어려운데 AI를 이용해 이를 극복했다는 설명이다. 다만, 조 교수는 “챕터마다 문체와 표현의 구조가 똑같아 사람 냄새가 없는 건조한 인상을 받았다”며 “정보만 나열해 정이 떨어지는 느낌”이라고 했다. 조 교수는 “앞으로 박식한 인간 저자가 철학을 갖고 AI를 도구 삼아 정보를 엮어내면 정말 훌륭한 역작이 나올 것”이라며 “무엇을 AI에 물어볼지 질문하는 힘이 가장 큰 능력이 된 시대”라고 말했다.

A출판사의 연극 연출 교양서를 읽은 김윤철 한국예술종합학교 명예교수는 “읽기 전에 우려했던 것보다 걱정거리가 적었다”며 “이론을 보수적으로 써서 논쟁 지점이 없고 연극 교양서로는 권할 만하다”고 했다. 다만, 벨기에 연출가 ‘이보 반 호브’의 이름을 ‘이노 반 호브’라고 잘못 쓴 사례가 반복되고 유진 오닐의 ‘Hairy Ape(털보 원숭이)’를 ‘털 없는 원숭이’로 잘못 번역하는 등 연극을 잘 아는 사람이 썼다면 나올 수 없는 고유명사의 오류가 많다고 했다. 김 교수는 “기념비적인 서구 예술가 소수만 반복 인용하며 똑같은 구조를 보였다”며 “서양 포털에서 검색이 쉽게 되는 이들 위주로 썼다는 느낌을 받았다”고 말했다.

AI로 쓴 와인 교양서를 검토한 정하봉 한국국제소믈리에협회 수석부회장은 “딴지 걸 내용이 잘 보이지 않는 데다 소믈리에 초급반 교재로 바로 써도 될 정도로 충분히 구성이 좋다”며 “다만 그간 출간된 이 정도 수준의 와인 입문서가 많은 터라 잘 팔리지는 않을 것”이라고 했다.

/Gemini

◇깜깜이 AI 출판, 얼마나 많은지 서점도 몰라

문제는 AI로 쓴 책이 얼마나 많은지 아무도 모른다는 점이다. 독자도 내가 읽는 책이 AI가 썼는지 알기 어렵다. 서점조차 모르고 있었다. 교보문고나 예스24 등은 출판사가 책을 등록할 때 AI가 쓴 책은 따로 분류하도록 ‘권고’하고 있지만 제대로 등록됐는지 검증할 수단이 없다. A출판사의 책도 사람 저자가 쓴 것으로 분류돼 있었다.

본지 취재가 시작되고 교보문고는 AI 출판사와 관련해 내부 경영 감사를 시작했으나 판매 금지 등 제재를 할 수는 없다는 결론을 내렸다. 설령 AI가 쓴 책이 ‘양서(良書)‘가 아니라고 해도 헌법이 보장하는 출판의 자유를 침해할 수 없다는 것이다. 교보문고 관계자는 “서점 차원에서는 책 홍보를 하지 않는 등의 소극적인 방법밖에 없는 상황”이라며 “콘텐츠 관리 방안을 모색 중”이라고 했다.

예스24는 AI 저자 표기 기준을 만들기 위한 연구에 착수했다. 현재 예스24에서 판매되는 책 중 공저자로 ‘챗GPT’가 등록돼 있는 게 25권뿐인데 이를 늘리겠다는 것. AI의 기여도에 따라 표기 기준을 명확히 세워 저자란에 병기하는 방안을 논의하고 있다.