'과학 투명성' 위협하는 챗GPT...국제학술지 잇따라 새 지침 내놔

‘네이처·사이언스’ 사설에서 가이드라인 제시

ChatGPT 화면. 연합뉴스 제공

국제학술지 '네이처'가 챗GPT(ChatGPT)를 포함한 대화형 인공지능을 논문 저자로 인정하지 않겠다는 가이드라인을 제시한 데 이어 '사이언스'도 26일(현지시간) 사설을 통해 새로운 편집지침을 내놨다. 챗GPT와 같은 AI도구는 과학의 투명성을 위협하고 연구에 대한 책임을 질 수 없다는 것이다. 

챗GPT는 두 달 전 미국 오픈AI사가 개발한 대화형 인공지능 챗봇이다. 인간이 만든 수많은 문장을 학습해 마치 사람이 이야기하듯 자연스러운 대화가 가능하다. 같은 방식으로 원하는 글도 작성할 수 있다. 

최근 챗GPT가 작성한 논문이 의사·MBA·로스쿨 시험을 통과하고 표절 검사까지 통과하면서 세계적인 주목을 받고 있다. 미국 투자 리서치 회사 에이아르케이 인베스트는 지난 22일 기준 챗GPT의 일 사용자수를 1500만명으로 추정했다. 

연구 논문을 스스로 쓰는 챗GPT의 등장에 과학계에서는 우려가 커지고 있다. 과학자들이 챗GPT가 쓴 연구 초록 중 3분의 1을 구별하지 못한다는 연구 결과가 나왔기 때문이다.

국제학술지 '네이처'는 최근 챗GPT 등 인공지능의 연구 논문 작성 보조 허용 여부에 대해 온라인 구독자 3600여명을 대상으로 설문 조사를 실시했다. 그 결과 57.7%(2085명)가 반대했고 찬성은 36.9%(1335명)에 불과한 것으로 나타났다. 네이처는 "많은 응답자들이 챗봇을 통해 쉽게 가짜 및 부정확한 논문을 만들어 내는 것을 우려했다"며 "이를 감지할 수 있는 시스템이 개발될 때까지는 챗봇 사용을 금지하는 게 최선이라고 보고 있다"고 밝혔다. 

결국 네이처는 24일 사설을 통해 새 가이드라인을 제시했다. '대규모 언어모델(LLM)은 연구 논문의 저자로 인정될 수 없고 LLM을 사용할 경우 논문에 명시해야 한다'는 내용이다. LLM은 말뭉치에서 패턴을 찾아 문장을 만들어내는 기술을 뜻한다. 챗봇, 음성 비서 등이 대표적인 대규모 언어모델에 기반한 AI 서비스다. 

네이처는 "방법의 투명성과 저자의 진실성은 과학이 발전하기 위한 기초"라며 "네이처가 원칙을 제시하는 이유"라고 강조했다. 학술지 네이처 출판사인 스프링거 네이처가 LLM이 생성한 문장을 찾는 기술을 개발하고 있다고도 덧붙였다. 

사이언스는 '챗GPT는 재미있지만 저자는 아니다'라는 제목의 26일 사설에서 "수년 동안 사이언스 계열 저널은 저작물이 원본임을 인증하는 라이선스에 저자가 서명을 해야 했다"며 "저자가 자신의 논문 연구에 대한 책임이 있음을 증명하는 것"이라고 밝혔다. 

이어 "챗GPT가 과학 논문 작성에 미치는 영향을 우려해 편집 정책을 업데이트했다"며 "챗GPT나 다른 AI도구에 의해 생성된 텍스트를 논문 작업에 사용할 수 없으며 이러한 정책을 위반하는 것은 기존 작업을 표절하는 것과 다를 바 없는 '과학적 위법 행위'에 해당한다"고 덧붙였다. 

또 "과학적 기록은 중요한 질문과 씨름하는 인간의 노력 중 하나"라며 "궁극적으로 가설을 세우고 실험을 설계하는 등의 연구는 우리 머릿속에서 나와야 한다"고 강조했다. 
 

[윤영혜 기자 yyh@donga.com]