“국가 R&D서 인공지능 활용 연구 책임은 연구자가”, 정부 가이드라인 확정

국가 연구 개발(R&D)에서 인공지능(AI)의 역할을 도구로 제한하고 최종 결과물에 대한 책임과 권리는 연구자에게 돌아가도록 하는 정부 차원의 AI 연구 윤리 가이드가 나왔습니다.

과학기술정보통신부는 국가 과학 기술 자문회의 운영위원회 심의·의결을 거쳐 ‘국가 연구개발 AI 연구 윤리 가이드’가 확정됐다고 오늘(20일) 밝혔습니다.

가이드를 보면 인공지능은 문헌 조사 등 보조적 도구 역할에 국한하며, 인공지능이 법적·도덕적 의무를 질 수 없는 만큼 저자나 발명자로서 지위나 권리를 가질 수 없다고 명시되어 있습니다.

또 연구자는 인공지능 활용의 한계를 인식하고 책임 있게 활용해야 하며, 기관은 윤리적 인공지능 활용을 위한 제도적 지원 체계와 윤리적 위험 예방·대응 체계를 마련하도록 책임을 규정했습니다.

사실관계 검증, 주체적 판단, 투명성 확보, 결과 신뢰성 관리, 정책·규정 준수, 보안 확보, 개인정보 보호 등 7대 권고 사항도 담겼습니다.

가이드는 연구자가 인공지능 생성물의 오류나 핵심 자료 누락, 출처 진위 등을 검증하고, 생성물을 활용할 때 자신의 관점을 반영해 재구성하도록 했습니다.

인공지능을 활용한 경우 투명하게 공개하고, R&D 성과 구현 과정을 논리적으로 설명할 수 있도록 해야 한다고도 권고했습니다.

인공지능을 활용할 때 규정이나 지침을 확인해 지키도록 하고, 필요한 경우 허가된 보안 환경에서 도구를 사용하도록 했습니다.

아울러 R&D 전 과정에서 개인정보가 포함된 연구데이터를 인공지능 서비스에 입력하지 않도록 주의할 것을 권고했습니다.

국가 R&D 과제 평가나 논문 심사 시 평가자가 대상 자료를 외부 AI에 입력할 수 없도록 하고, 인공지능을 활용해 심사 기준을 회피하거나 은닉 프롬프트 등을 통해 평가를 왜곡하는 것도 금지했습니다.

과기정통부는 다만 이번 가이드라인에 구속력이 없고, 이를 어길 시 제재할 계획은 없다고 밝혔습니다.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!

이세연 기자 (say@kbs.co.kr)