‘AI로 연구’ 이것은 지켜라…‘국가R＆D AI 연구윤리 가이드’ 마련

인공지능(AI) 발전과 확산이 빨라지면서 빅테크 기업을 중심으로 속도 조절론까지 나오고 있다. AI는 다양한 분야에서 활용되고 있는데 과학기술 분야도 예외가 아니다. AI가 연구 전 과정에 도입되면서 연구 생산성이 획기적으로 향상되고 있지만 부정확한 정보 생성의 위험, 보안·개인 정보 유출, 출처 미상 자료의 부적절한 인용 등 다양한 연구 윤리 위험을 내포하고 있다. 이에 정부가 국가 차원에서 AI를 활용할 때 연구 윤리 가이드라인을 마련했다.

과학기술정보통신부는 연구자가 국가연구개발 수행 모든 단계에서 AI를 책임감 있고 윤리적으로 활용할 수 있도록 지원하기 위해 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 ‘국가연구개발 AI 연구윤리 가이드’를 확정했다고 20일 밝혔다.

이번에 확정된 가이드라인에 따르면 “국가연구개발에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다”는 기본원칙 아래 연구자가 지켜야 할 7대 권고사항을 제시했다. 7대 권고사항은 △사실관계 검증 △주체적 판단 △투명성 확보 △결과 신뢰성 관리 △정책·규정 준수 △보안 확보 △개인정보 보호다.

구체적으로 AI 생성물의 오류, 핵심 자료의 누락, 출처의 존재 및 진위 등을 검증해야 하며 AI가 생성한 자료를 활용할 때는 논리적 타당성과 전문 지식에 따라 검토하고 자신의 관점을 반영하여 재구성해야 할 뿐만 아니라 연구개발 성과의 구현 과정을 논리적으로 설명할 수 있어야 한다고 규정하고 있다. 또 연구 과정 전반에 AI를 활용한 경우 모델·버전을 공개하고 정보 수집, 데이터를 통한 추론, 연구데이터 정리, 문법이나 오타 점검, 번역 등 사용 목적과 범위도 투명하게 공개할 것을 제언하고 있다. 그 밖에도 AI 활용 시 연구개발기관의 관련 규정이나 지침, 가이드 등을 확인하고 준수해야 하고 연구개발기관은 제도적·기술적 보안 환경을 마련해야 하며 연구자는 연구개발기관이 허가한 보안 환경 내의 도구를 사용하고 개인정보가 포함된 자료는 AI 서비스에 입력하지 않도록 주의할 것을 조언하고 있다.

동시에 국가R＆D 과제 평가나 논문을 심사할 때 평가자는 해당 자료를 외부 AI에 입력하지 않고 전문성에 기반한 주체적 평가를 수행해야 하고 피평가자는 은닉 프롬프트처럼 AI를 활용해 정당한 심사 기준을 회피하거나 평가를 왜곡하려는 시도를 해서는 안 된다고 명시했다.

정부는 연구 현장에서 활용할 수 있도록 돕기 위해 연구자 스스로 점검할 수 있는 ‘연구자 자가진단표’와 연구개발과제 보고서 등 제출 시 활용할 수 있는 ‘AI 활용 여부 공개 서식’도 함께 제공할 계획이다.

과학기술 연구현장에서도 인공지능의 사용은 일상화되고 있다. 이에 정부가 AI를 국가연구개발 현장에서 사용할 때 연구윤리 가이드라인을 제시했다. 제미나이 생성 이미지

이번 정부의 가이드라인에 대해서 AI를 연구 보조 도구로 활용하되 판단과 책임은 연구자에게 있다는 원칙을 명확히 제시했다는 점에서 의미가 있다고 평가하고 있지만 현장의 상황을 충분히 반영하지 못하는 부분도 있다는 지적이 나오고 있다.

이민욱 한국과학기술연구원(KIST) 책임연구원은 “연구 현장에서 AI 활용 가이드라인의 기본 원칙에는 공감하지만 현장 연구자 입장에서는 실효성에 대한 우려가 있다”며 “도구적 활용과 주체적 판단의 경계가 실무적으로 모호하고 보안 사유로 상용 프론티어 모델 사용을 제한하는 것도 모델 간 성능 격차를 본다면 연구 품질의 실질적 저하가 우려된다”고 지적했다.

국가과학기술자문회의 부의장을 역임한 염한웅 기초과학연구원(IBS) 원자제어저차원전자계연구단장(포스텍 물리학과 교수)도 “현 시점에서 AI 연구윤리 가이드는 매우 시급해 보이지만 주어진 가이드라인은 중요한 연구 현장의 현실을 반영하지 못하며 매우 빠르게 변화하는 향후의 발전에도 대응할 수 없다”고 밝혔다. 염 단장은 “AI는 단순 데이터 정리를 넘어서 데이터 분석, 이론적인 모델 추출 등 훨씬 광범위하게 쓰이고 있음에도 데이터 정리, 번역, 오타 정리 등 연구 보조 도구로 활용하라는 것은 현실을 무시한 것”이라고 꼬집었다.

유용하 과학전문기자