AI 연구윤리 가이드 공개 "AI 활용한 결과물 책임은 연구자에"

과학기술정보통신부 로고. 과기정통부 제공

인공지능(AI)을 이용해 연구·개발하더라도 결과물에는 연구자 본인의 관점이 반영돼야 한다는 가이드라인이 나왔다. 

과학기술정보통신부(과기정통부)는 국가과학기술자문회의 운영위원회의 심의와 의결을 거쳐 '국가연구개발 AI 연구윤리 가이드'가 확정됐다고 20일 밝혔다. 

가이드는 연구자가 국가연구개발 수행 모든 단계에서 AI를 책임감 있고 윤리적으로 활용할 수 있도록 지원하는 것을 목표로 마련됐다. 

기본 원칙은 "국가연구개발에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다"이다. 

기본 원칙 아래 연구자가 지켜야 할 7대 권고사항이 제시됐다.  △사실관계 검증, △주체적 판단, △투명성 확보, △결과 신뢰성 관리, △정책·규정 준수, △보안 확보, △개인정보 보호다. 

권고사항에는 연구자가 AI 생성물의 오류를 검증해야 하며, 연구 과정 전반에 AI를 활용한 경우 어떤 모델을 어디에 사용했는지 등을 투명하게 공개해야 한다는 내용이 포함돼 있다. 

또 국가연구개발 과제 평가 및 논문 심사 시 평가자는 대상 자료를 외부 AI에 입력하지 않고 전문성에 기반한 주체적 평가를 수행해야 하며, 피평가자는 AI를 활용하여 정당한 심사 기준을 회피하거나, 평가를 왜곡하려는 시도를 해서는 안 된다고 명시했다. 

홍순정 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며, "이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고, 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 밝혔다.

현장 연구자들 사이에선 권고에 그치지 않고 더 명확한 규제가 나와야 한다는 목소리가 나온다. 

구자호 연세대 대기과학과 교수는 "가이드를 크게 개의치 않고 악용하면서 문제를 일으키는 사람들이 있다"면서 "징계를 철저하게 하겠다는 과기부의 의지가 있다면 악용하는 경우를 줄이는 데 도움이 될 것"이라고 했다. 

손화철 한동대 글로벌리더십학부 학부장은 "시의적절한 조치라 생각되지만 '권고사항'이라 표현한 것은 다소 약한 것 같다"고 했다. 

이미 연구 현장에서 AI가 광범위하게 활용되는 가운데 권고안이 현실을 반영하지 못한다는 평도 나온다. 

염한웅 기초과학연구원(IBS) 원자제어저차원전자계연구단장은 "가이드라인은 중요한 연구 현장의 현실을 반영하지 못하며 매우 빠르게 변화하는 향후의 발전에도 대응할 수 없다"고면서 "투명성 확보 부분에 '사용처는 데이터 정리, 번역, 오타 정리 등 연구 보조 도구로 활용해야 한다'고 되어있지만 이미 연구 전 과정에서 AI가 활용된다"고 말했다. 
 

[김소연 기자 lecia@donga.com]