‘난제 뚝딱 해결’ 첨단AI 쓰지말란 韓정부…과학계는 “현실을 모른다”

국가R&D AI연구윤리 가이드 공개
“AI는 보조도구…저자 지위 안돼”
연구기관 허가한 AI모델만 허가해
과학AI 개발 정책과 엇박자 지적도

과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 확정된 ‘국가연구개발 AI 연구윤리 가이드’를 발표했다. [사진=챗GPT로 생성한 이미지]

“인공지능(AI) 결과물의 출처 표기와 원본 자료를 확인했는가?”

“사용한 AI의 모델과 버전, 활용 기간을 투명하게 공개했는가?”

앞으로 국내 연구자들은 연구 결과를 발표할 때 이러한 질문에 답을 내놔야 한다. 과학 연구에 인공지능(AI)을 활용하는 사례가 급증하는 가운데, 정부가 AI는 연구개발(R&D)의 보조도구에 그쳐야 한다는 가이드를 공개한 까닭이다. 이에 과학기술계에서는 해당 가이드가 실제 연구 현장과 괴리되어 있다는 지적이 나온다.

과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 ‘국가연구개발 AI 연구윤리 가이드’가 확정됐다고 20일 밝혔다.

R&D에서 AI의 역할이 커지고 있지만, AI가 아무리 발전해도 인간이 연구를 주도해야 하고 책임도 인간에게 있다는 입장을 명확히 한 것이다.

가이드라인에 따르면 정부가 내세운 기본 원칙은 “국가 R&D에서 AI의 역할은 도구로 제한되며, 최종 결과물에 대한 책임과 권리는 AI를 활용한 연구자에게 귀속된다”는 것이다. 정부는 AI가 문헌 조사 요약, 번역, 데이터 정리 등 보조적 도구 역할에 국한되어야 하고, 저자의 지위‧권리를 가질 수 없다고 명시했다.

가이드라인은 총 7가지의 권고사항으로 구성되어 있다. 사실관계 검증, 주체적인 판단, 투명성 확보, 결과 신뢰성 관리, 규정 준수, 보안 확보, 개인정보 보호 등이다. 이를 반영해 자가진단표는 “출처 표기 및 원본 자료를 확인했는가”, “연구자가 직접 독창성과 차별성을 검토했는가”, “AI의 기술적 한계와 윤리적 위험 요소를 고려했는가” 등의 10가지 질문을 담았다.

연구결과 보고서에는 AI 활용 여부에 대한 내용도 투명하게 적시해 한다. 어떤 AI 모델을 어떻게 활용했는지를 상세하게 적어야 한다는 얘기다. 보고서 양식에는 AI 모델명, 활용 내용, 활용 기간 등을 적도록 되어 있다.

과학기술계에서는 가이드라인을 두고 “시의적절한 조치”라면서도 “일부 기준이 연구 현장과 괴리되어 있다”는 지적을 내놨다. 가장 큰 문제는 보안 관련 사안이다. 가이드라인은 연구기관이 허가한 보안 환경 내의 도구를 사용해야 한다고 규정한다. 이에 따르면, 최근 나온 아스트라 등 프론티어 모델은 사용하기 어렵다.

이민욱 한국과학기술연구원(KIST) 책임연구원은 “현재 출연연에서 운용 가능한 모델과 최신 상용 모델 간 성능 격차가 상당해 연구 품질의 저하가 우려된다”며 “오히려 연구자들이 우회로를 찾게 될 수 있다”고 지적했다.

박정빈 부산대 의생명융합공학부 교수도 “실제 위험에 비례해 보호하되, 새로운 도구를 도입하고 실험하는 연구의 자율성은 존중해야 한다”고 했다.

정부가 내놓은 원칙 자체가 최근 연구 동향을 반영하지 못한다는 지적도 이어졌다. 염한웅 기초과학연구원(IBS) 연구단장은 “이미 AI는 원칙에 나온 단순 데이터 정리를 넘어, 분석, 이론 모델 추출, 논문 초안 작성 등 광범위하게 활용되고 있다”며 “연구 현장의 현실을 반영하지 못한 내용”이라고 했다.

연구에 AI를 활용하는 추세는 이미 세계적으로 급증하고 있다. 지난해 엘스비어에 따르면, 업무에 AI를 활용하는 연구자는 일 년만에 37%에서 58%로 증가했다. 이중 연구 데이터 분석과 논문 초안 작성에 활용하는 경우가 각각 38%에 달했다.

최근 정부 역시 ‘연구소장급 AI 과학자’를 개발하는 정책을 추진하는 가운데, AI를 단순한 연구 보조 도구로 국한하는 가이드가 다른 R&D 정책과 엇박자라는 지적도 나온다. 현재 한국전자통신연구원(ETRI), 국가과학AI연구센터(NAIS), K-문샷 프로젝트 등이 모두 리더급 AI 과학자 개발을 추진 중이다.

과기정통부는 가이드와 해설서를 각 연구개발기관에 배포하고, 현장 의견을 지속적으로 수렴해 보완할 계획이다.