[K-VIBE] 임기범의 AI혁신 스토리…AI가 쓴 논문보다 무서운 것-②

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

임기범 서울과학종합대학원 대학교 객원교수 [본인 제공]

논문을 더 많이 쓰는 것과 더 좋은 연구는 다르다

AI는 글쓰기 비용을 극적으로 낮춘다. 초안 작성, 문장 정리, 문헌 요약, 도표 설명, 반박문 작성까지 이전보다 훨씬 빠르게 처리할 수 있다. 연구자의 생산성이 높아지는 측면도 분명히 있다. 그러나 생산성이 늘었다고 해서 연구의 질이 자동으로 높아지는 것은 아니다.

조직과학, 전략관리, 사회학, 경제학, 정치학, 역사학, 정보과학, 통신이론, 심리학 등 전 세계적으로 다양한 분야의 학문을 포괄하고 있는 저널인 오거니제이션 사이언스(Organization Science)에 발표된 분석은 이 지점을 잘 보여준다. 챗 GPT 공개 이후 한 주요 학술지의 투고량은 크게 늘었지만, 글쓰기 품질은 오히려 떨어졌고 AI 생성 문장이 이러한 흐름과 강하게 관련된 것으로 분석됐다. 연구진은 현재의 AI 도구가 기존의 '출판하지 않으면 사라진다'는 압박과 결합하면서 학계를 "더 나은 연구"가 아니라 "더 많은 연구"의 균형으로 밀어가고 있다고 지적했다.

이 표현은 매우 중요하다. 더 많은 논문이 곧 더 많은 지식은 아니다. 더 많은 문장이 곧 더 깊은 통찰도 아니다. 검증되지 않은 글이 늘어나면 심사자는 더 많은 시간을 빼앗기고, 편집자는 더 많은 잡음을 걸러야 하며, 독자는 더 많은 의심 속에서 지식을 찾아야 한다.

과학은 속도전만으로 발전하지 않는다. 과학은 검증의 체계 위에서 발전한다. AI가 작성 속도를 높이는 만큼 검증 능력도 함께 커지지 않으면 학계는 지식 생산 체계가 아니라 텍스트 생산 공장이 될 위험이 있다.

AI 사용 공개는 처벌용 딱지가 아니다

그렇다면 AI 사용 여부를 밝혀야 할까. 밝혀야 한다. 다만 그 이유를 정확히 해야 한다.

AI가 썼기 때문에 나쁘다는 뜻이 아니다. AI 사용 공개는 처벌을 위한 낙인이 아니라 책임을 추적하기 위한 기록이어야 하기 때문이다.

간단한 맞춤법 교정이나 문장 다듬기까지 모두 문제 삼을 필요는 없다. 그러나 문헌 검토, 주장 구성, 인용 추천, 데이터 분석, 결과 해석에 AI가 관여했다면 이야기는 달라진다. 그때 AI는 단순한 문장 보조 도구가 아니라 연구 과정의 일부가 된다. 그렇다면 어떤 도구를, 어떤 목적으로, 어떤 범위에서 사용했는지 밝혀야 한다.

이것은 연구자를 감시하기 위한 절차가 아니다. 오히려 정직한 연구자를 보호하기 위한 절차다. AI를 책임 있게 사용한 연구자와 AI가 만든 내용을 검증 없이 붙여 넣은 연구자를 구분해야 하기 때문이다.

문제는 "AI를 썼는가"가 아니다. 문제는 "AI가 만든 내용을 인간 연구자가 자기 책임 아래 검증했는가"다.

탐지보다 필요한 것은 책임의 추적이다

AI 탐지기에 모든 것을 맡기는 방식은 위험하다. AI가 쓴 문장을 완벽히 구별하는 것은 쉽지 않다. 특히 비영어권 연구자의 글이나 번역 과정을 거친 글은 오탐의 위험도 있다. 탐지 점수 하나로 연구자를 단죄하는 방식은 새로운 부작용을 만들 수 있다.

대신 필요한 것은 책임의 추적이다.

논문마다 저자별 기여를 더 구체적으로 밝혀야 한다. 누가 아이디어를 냈는지, 누가 데이터를 수집했는지, 누가 분석했는지, 누가 초안을 썼는지, 누가 검증했는지, 누가 최종 원고를 승인했는지 분명히 해야 한다. AI가 사용됐다면 어느 단계에서 어떤 역할을 했는지도 함께 기록해야 한다.

기관 소속도 마찬가지다. 어떤 대학의 소속을 논문에 기재했다면 그 대학에서 실제로 어떤 연구 활동이 있었는지 설명할 수 있어야 한다. 연구비를 지원했는지, 장비와 데이터를 제공했는지, 공동 세미나나 공동 지도가 있었는지, 실질적 지적 기여가 있었는지 확인할 수 있어야 한다.

국제 공동연구는 장려해야 한다. 해외 석학과의 협력도 필요하다. 그러나 실질적 협력 없이 소속만 빌려 논문 실적을 가져오는 것은 국제화가 아니라 지표 관리다. AI 활용 역시 마찬가지다. 연구를 돕는 도구로 쓰면 혁신이지만, 책임을 숨기는 장막으로 쓰면 연구윤리의 문제가 된다.

질문을 바꿔야 한다

지금 우리에게 필요한 질문은 "AI가 논문을 썼는가"가 아니다.

더 정확한 질문은 이것이다.

"이 논문은 책임 있는 인간 연구자의 검증을 거쳤는가."

이 질문에 답할 수 있다면 AI 사용은 금지할 이유가 없다. 오히려 잘 활용해야 한다. AI는 비영어권 연구자의 언어 장벽을 낮추고, 반복적인 문서 작업을 줄이며, 연구자가 더 중요한 판단에 시간을 쓰도록 도울 수 있다.

그러나 이 질문에 답할 수 없다면 그 논문은 AI가 썼든 인간이 썼든 문제가 있다. 인간이 직접 쓴 논문이라고 해서 책임 없는 연구가 정당화되는 것은 아니다. 반대로 AI의 도움을 받은 논문이라고 해서 책임 있는 연구가 부정되어서도 안 된다.

결국 핵심은 도구가 아니라 책임이다.

AI가 과학을 망치는 것이 아니다. 책임 없는 생산량 경쟁이 과학을 망친다. AI는 그 경쟁을 더 빠르고 더 크게 만들 수 있는 도구일 뿐이다. 학계가 정말 두려워해야 할 것은 AI가 쓴 문장이 아니라 아무도 끝까지 책임지지 않는 문장이 대량으로 쌓이는 미래다.

이 문제의식은 사실 낯설지 않다. 예전 칼럼에서 AI가 생성한 데이터를 다시 AI 학습에 반복적으로 사용하는 경우 오류와 편향이 증폭될 수 있다는 'AI 모델 붕괴' 문제를 다룬 적이 있다. 그때의 결론도 결국 같았다. AI가 만든 결과물을 그대로 소비하고 재사용하는 것이 아니라 사람의 사고와 판단, 검증과 수정이 개입되어야 한다는 것이다. 학술논문 문제 역시 다르지 않다. AI가 문장을 만들었는지가 핵심이 아니라 그 문장이 인간 연구자의 비판적 검토를 거쳐 책임 있는 지식으로 전환됐는지가 핵심이다.

연구는 글쓰기 경쟁이 아니다. 순위표를 위한 점수 게임도 아니다. 연구는 검증 가능한 지식을 공동체 앞에 내놓고 그 지식에 대해 책임지는 행위다.

AI 시대의 연구윤리는 그래서 단순해야 한다. AI를 썼는지 묻는 데서 멈추지 말아야 한다.

누가 검증했는지 물어야 한다.

누가 기여했는지 물어야 한다.

누가 책임지는지 물어야 한다.

그 질문에 답할 수 있는 논문만이 AI 시대에도 여전히 학문이라고 불릴 자격이 있다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 전 신한 DS 디지털 전략연구소장

▶제보는 카톡 okjebo