‘AI 활용 학자’ 논문 3배 더 쓸 때, 연구 시야 5% 좁았다…‘슬롭 논문’ 범람 [팩플]

" 누가 봐도 인공지능(AI)이 쓴 것 같은 논문이 많이 투고돼요. 그런데 이 논문들이 깊이가 아예 없는 것은 아니고…. 그렇다고 해서 탁월한 것도 아니에요. 학자들이 AI에 많이 의존한다는 것만 확실히 알 수 있었죠.(서울 사립대 A교수) " " 동료 교수에게 ‘논문에서 쓰신 이 부분은 무슨 내용이에요?’라고 직접 물었는데, 간혹 자세히 모르는 경우가 있더라고요. 교수들도 AI에 맡겨 놓으니까, 자기 논문 내용도 잘 기억을 못 할 지경이란 거죠.(국립대 B교수) "
AI가 생활뿐 아니라 학계 연구에도 깊이 스며들면서 저품질의 ‘슬롭(slop) 논문’이 범람하고 있다. 일상적 글쓰기부터 유튜브 영상 등 소셜 미디어에서 AI로 만든 질 낮은 콘텐트인 슬롭이 판을 치는 가운데, 과학적 검증이 중요한 논문 영역에서까지 슬롭이 양산되며 학계가 골머리를 앓고 있다.

미국 한 대학 졸업식에 참석한 학생의 모습. 로이터=연합뉴스

31일 과학계에 따르면 중국 칭화대 하오첸웨 연구원과 미국 시카고대 제임스 에번스 교수 등 연구진이 자연과학 분야 연구논문 4130만 편을 분석한 결과, 연구에 AI를 사용한 과학자가 그렇지 않은 과학자보다 3.02배 더 많은 논문을 발표한 것으로 나타났다. 이 분석은 올해 초 국제 학술지 네이처에 실렸다.

논문 발표량은 많아졌지만, 과학계의 연구 시야는 좁아지고 있다. 분석에 따르면 AI를 쓴 논문의 주제 범위는 AI를 쓰지 않은 것보다 4.63% 좁았다. AI를 활용한 논문일수록 데이터가 이미 풍부한 분야에 몰려드는 경향이 발생하면서다. 동일한 논문을 인용한 후속 논문들이 서로를 다시 인용하는 비율인 ‘후속 연구 관여도’는 AI를 쓴 연구에서 22% 더 낮았다.

김주원 기자

연구와 논문 품질 하락의 대표적 사례는 논문 속 ‘환각(hallucination)’을 꼽을 수 있다. 생성 AI가 없는 사실을 마치 진짜인 것처럼 만들어내는 현상이다. 미국 코넬대 자오전웨와 왕이허 등 연구진은 논문 약 252만 편에 들어간 참고문헌 1억1135만 건을 분석한 결과를 지난 5월 논문 사전 공개 사이트 아카이브(arXiv)에 공개했다. 연구진은 여기서 실재하지 않는 ‘환각 참고문헌’이 지난해 1년간 나온 논문에만 최소 14만6932건 포함됐을 것으로 추산했다. 인간 연구자가 참고문헌을 직접 작성했다면 실제 문헌을 확인하고 제목과 저자 등을 인용하는 과정을 거치기 때문에 존재하지 않는 논문을 참고문헌에 넣을 가능성은 작다. 그러나 AI는 실존하지 않는 문헌을 만들어 출처로 인용하는 경우가 많았다는 얘기다.

저품질 논문이 쏟아지면서 이를 걸러내기 위한 학계의 검증 부담은 커지고 있다. 국내 데이터과학 분야의 한 교수는 “터무니없는 참고문헌이 들어가 있거나 낮은 수준의 실수가 있는 논문이 학술지에 계속 투고돼 심사할 때 지칠 정도”라고 말했다. 최근 일본의 한 문학상 공모에 AI 작성이 의심되는 응모작이 급증하면서 심사 비용 부담에 문학상 자체가 존폐 위기에 처한 사례처럼, 학계의 평가 체계도 한계에 몰릴 수 있다는 우려다.

결국 과학계에선 논문 평가 기준을 혁신해야 한다는 제안이 나오고 있다. 잔프랑코 베르토네 네덜란드 암스테르담대 교수는 네이처 천문학(Nature Astronomy)에 게재한 논평에서 “AI는 우리가 논문을 더 많이 발표하도록 하는 게 아니라 적더라도 좋은 논문을 내도록 하는 것”이라면서 연구 과정의 코드와 데이터 등까지 평가해야 한다고 주장했다.

국내 학계에선 연구의 진실성을 높이기 위해 ‘생성형 AI 연구윤리 가이드’ 등을 공식 배포하고, 인간 과학자가 AI 활용 연구에서 주도성을 갖도록 유도하는 방안을 논의하고 있다. 이효빈 대학연구윤리협의회 사무총장은 “AI를 제대로 쓰면 논문의 품질은 더 좋아져야 하는 게 정상”이라며 “최근 논문의 품질이 떨어지는 경우는 대부분 AI가 연구의 주체가 되고 인간 연구자가 이를 따라가는 데 그쳤기 때문”이라고 지적했다. 그러면서 “각 연구 단계별로 AI를 적절하게 사용하는 법을 연구자들에게 재교육하고, 연구자도 AI 생성 결과를 스스로 검증하는 과정이 필요하다”고 말했다.

■ 더중앙플러스 : 팩플

「 더 자세한 기사 내용이 궁금하시다면 주소창에 링크를 붙여넣으세요.

합격할 대학 찾아준다고?…수시 6장 쓰기전, AI에 물어볼 것
9월 대입 수시모집을 앞둔 수험생과 학부모의 ‘골든 타임’이 찾아왔다. 지금이 바로 지원 대학과 전략을 최종 점검해야 하는 시기. 2027학년도 신입생 10명 중 8명은 수시모집으로 대학에 들어간다. 정보와 조언에 목마른 수험생·학부모의 시선은 인공지능(AI)으로 향한다. “챗GPT의 수시 컨설팅, 믿을 만한가요?” “AI가 골라준 대학·학과 봐주세요” 등 온라인 입시 커뮤니티에도 질문이 쏟아지고 있다. 입시 전문가들은 AI를 잘만 활용하면 24시간 나만의 ‘입시 컨설턴트’를 만들 수 있다는데. 팩플이 입시와 AI를 잘 아는 현직 교사, 사교육 업계와 스타트업이 추천하는 프롬프트(명령어)를 모아 핵심만 추렸다. 수험생과 학부모가 알고 싶은 AI 컨설턴트의 모든 것.
https://www.joongang.co.kr/article/25451373

“입사 2년차, 김도영이 누군데”…김범수가 6조 맡긴 그 남자
마지막 불꽃인가, 새로운 불씨인가. 혁신보다 위기라는 수식어가 익숙해진 카카오가 또 한번 승부수를 던졌다. 지난달 21일 카카오를 ‘카카오AI’와 ‘카카오X’로 쪼개는 인적분할을 발표한 것. 정신아 현 카카오 대표가 이끌 카카오AI는 카톡과 AI 사업을, 김도영 카카오인베스트먼트 대표가 맡을 카카오X는 주요 계열사와 6조4000억원의 투자 재원을 가져간다. 입사 1년 5개월 만에 카카오X 수장에 내정된 김도영은 누구일까. ‘뉴페이스’ 김도영을 팩플이 심층 분석했다.
https://www.joongang.co.kr/article/25457671
」

임성빈 기자 im.soungbin@joongang.co.kr