생성형 AI 썼다면 모델·버전 공개해야… 국가R&D 책임은 연구자

최종성과 제출 때 목적·범위까지 공개 권고
평가자료 AI 입력 제한·은닉 프롬프트 제재
제주 국가R&D 연구자도 같은 권고 대상
대학·출연연 기존 연구윤리·보안체계와 연계

제주시 구좌읍 한국에너지기술연구원 제주글로벌연구센터. 이곳에서는 정부출연연과 대학, 제주도, 공기업과 기업 등이 참여하는 재생에너지 섹터커플링 연구가 진행돼 왔다. 국가R&D 과정에서 AI를 활용할 경우 연구데이터 검증과 비공개 자료 보호 등 새 연구윤리 기준이 적용된다. 사진=연합뉴스

【파이낸셜뉴스 제주=정용복 기자】 국가 연구개발 과정에서 챗GPT 등 생성형 인공지능(AI)을 활용했다면 어떤 모델과 버전을 어디에 사용했는지 최종 성과물에 공개하도록 하는 연구윤리 기준이 마련됐다. 제주에서도 국가R&D를 수행하는 대학과 정부출연연구기관을 중심으로 기존 연구윤리·연구보안 체계에 생성형 AI 기준을 어떻게 반영할지가 연구관리의 새 과제로 떠올랐다.

28일 과학기술정보통신부 등에 따르면 국가과학기술자문회의 운영위원회는 최근 '국가연구개발 AI 연구윤리 가이드'를 심의·의결해 확정했다.

정부가 제시한 기본원칙은 명확하다. 국가R&D에서 AI의 역할은 연구자를 돕는 도구로 제한하고 최종 결과물에 대한 책임과 권리는 AI를 사용한 연구자에게 둔다.

연구자가 지켜야 할 7가지 기준은 사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책·규정 준수, 보안 확보, 개인정보 보호다.

AI가 제시한 논문이나 통계, 참고문헌을 그대로 사용하는 방식은 허용되지 않는다. 실제 존재하는 자료인지, 내용이 정확한지 연구자가 직접 확인해야 한다. AI가 작성한 분석이나 코드도 연구자가 논리적 타당성을 검토하고 자신의 전문적 판단을 거쳐 사용해야 한다.

가장 큰 변화는 AI 사용 과정의 공개다. 연구 과정에서 AI를 이용했다면 최종 연구성과를 제출하거나 발표할 때 사용한 모델과 버전, 활용 목적과 범위를 밝히도록 권고했다. 정보 검색과 문헌 정리뿐 아니라 데이터 추론·정리, 번역, 문법·오타 점검도 공개 대상의 예로 들었다.

AI 활용 공개서식에는 사용 도구와 모델·버전, 활용 내용과 기간 등을 적도록 했다. 챗GPT와 클로드 같은 생성형 AI가 활용 도구의 예로 제시됐다.

정부가 AI를 저자나 공동연구자로 인정한 것은 아니다. AI는 법적·도덕적 책임을 질 수 없는 만큼 논문의 저자나 특허의 발명자가 될 수 없고 AI를 사용한 연구자가 연구 아이디어와 분석, 결론에 책임을 져야 한다.

제주테크노파크 바이오융합센터 전경. 제주에서는 바이오 소재 데이터와 용암해수, 건강정보 등을 AI와 결합하는 연구·산업화 논의가 확대되면서 개인정보와 연구데이터 보안 관리의 중요성도 커지고 있다. 사진=파이낸셜뉴스

연구보안 기준은 더 엄격하다. 특허 출원 전 기술이나 미발표 연구자료, 기업으로부터 제공받은 비공개 데이터 등을 외부 상용 AI 서비스에 무분별하게 입력하지 않도록 했다. 개인정보가 포함된 연구자료를 AI에 활용해야 할 경우에는 비식별화 등 필요한 조치를 먼저 거쳐야 한다.

국가R&D 과제평가와 논문심사에서는 연구자보다 평가자에게도 별도의 주의 의무가 요구된다. 평가자는 연구계획서와 결과보고서, 심사 대상 논문 등을 외부 AI 서비스에 입력하지 않아야 한다. 아직 공개되지 않은 연구 아이디어와 기술정보, 개인정보가 외부 서버로 넘어갈 가능성이 있기 때문이다.

AI로 평가 결과를 조작하려는 새로운 유형의 부정행위도 기준에 포함됐다. 연구자가 연구계획서나 논문 안에 사람이 쉽게 알아볼 수 없는 글씨나 명령어를 넣어 AI가 자신에게 유리한 평가를 하도록 유도하는 '은닉 프롬프트'가 대표적이다. 정부는 정당한 평가기준을 피하거나 심사 결과를 왜곡하려는 이런 행위가 연구부정행위에 해당할 수 있으며 관련 법령에 따른 제재 대상이 될 수 있다고 명시했다.

제주 연구현장에서도 이번 가이드가 기존 연구윤리 체계와 만나는 지점이 적지 않다.

제주대학교 산학협력단이 공개한 규정집에는 국가연구개발사업 연구노트 지침과 과학기술정보통신부 소관 연구개발사업 보안관리지침, 자체 연구윤리 규정과 연구과제·연구성과 보안관리지침 등이 포함돼 있다.

새 가이드가 각 연구개발기관에도 관련 규정과 지침, 보안환경을 마련하도록 역할을 제시한 만큼 기존 연구윤리·보안 규정에 AI 활용 기준을 접목하는 작업이 뒤따를 가능성이 있다.

제주의 정부출연연 연구현장에서는 연구데이터와 기업 기술정보를 다루는 실증연구가 적지 않다는 점도 주목된다.

한국에너지기술연구원 제주글로벌연구센터에서는 정부출연연과 대학, 제주도, 제주에너지공사, 기업 등 22개 기관이 참여하는 '변동성 재생에너지 수용성 확대를 위한 다종 섹터커플링 핵심기술 개발' 연구가 진행돼 왔다. 6년간 461억원이 투입되는 사업으로 제주에서 대규모 에너지 실증연구가 이뤄지는 대표적인 사례다.

한국생산기술연구원 제주기술실용화본부도 청정에너지 전환과 디지털 제조, 미래모빌리티 실증 등을 주요 연구분야로 두고 있다.

제주첨단과학기술단지 내 기업·연구시설 일대. 정부가 국가R&D에서 생성형 AI를 활용할 경우 모델과 버전, 목적과 범위를 공개하고 결과에 대한 최종 책임을 연구자가 지도록 하는 연구윤리 가이드를 마련했다. 사진=제주국제자유도시개발센터 제공

이런 국가R&D에서 생성형 AI를 문헌검토나 코딩, 실험데이터 분석 보조 등에 사용할 경우 새 가이드가 요구하는 공개·검증·보안 원칙이 적용된다. 특히 기업과 공동연구를 수행하면서 받은 비공개 자료나 특허 출원을 앞둔 기술을 외부 AI에 입력하지 않도록 하는 연구보안 관리가 실무적인 쟁점이 될 수 있다.

제주테크노파크에서는 AI와 바이오를 결합하는 연구·산업화도 확산하고 있다. 올해 열린 AI·바이오 융합 전략 세미나에서는 바이오 소재 데이터베이스와 AI 서비스, 자율주행 실험실, 용암해수와 건강검진 데이터를 활용한 맞춤형 서비스, 바이오 특화 언어모델 등이 논의됐다.

제주테크노파크 사업 모두가 이번 국가R&D 가이드의 직접 적용 대상은 아니다. 적용 여부는 개별 사업이 국가연구개발에 해당하는지에 따라 달라진다. 다만 건강정보와 연구데이터, 기업자료를 AI와 결합하는 사업이 늘어날수록 개인정보와 데이터 보안, AI 결과의 검증 책임이라는 원칙은 지역 연구·산업 현장에서도 중요한 관리기준이 될 수밖에 없다.

연구자의 AI 활용은 이미 빠르게 늘고 있다. 와일리가 지난해 전 세계 연구자 2400여명을 조사한 결과 업무에서 AI를 사용한다는 응답은 2024년 57%에서 2025년 84%로 늘었다. 연구·출판 업무에 AI를 사용한다는 비율도 45%에서 62%로 상승했다.

엘스비어의 연구자 3000명 조사에서도 업무에 AI를 활용한다는 응답은 2024년 37%에서 지난해 58%로 높아졌다. 반면 소속기관의 AI 거버넌스가 잘 마련돼 있다고 평가한 연구자는 32%, AI 활용 교육이 충분하다는 응답은 27%에 그쳤다.

AI 활용을 막기보다 사용 사실을 공개하고 사람이 결과를 검증하며 연구자료를 보호하도록 한 이번 가이드의 배경이다.

이번 기준은 국가R&D 현장에서 연구자가 AI를 책임 있게 사용할 수 있도록 제시한 가이드다. 과기정통부는 가이드와 해설서를 연구개발기관에 배포하고 현장 의견을 반영해 계속 보완할 계획이다.

홍순정 과기정통부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "책임 있는 AI 활용 문화를 정착시키고 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되길 기대한다"고 말했다.

jyb@fnnews.com 정용복 기자