[단독] AI로 보고서 쓰는 국책硏… 검증 가이드라인은 없어

연구기관 AI 부정사용 급증

공공부문 보고서에서 생성형 인공지능(AI) 오남용에 의한 오류 사례가 잇따르고 있지만, 정작 상당수 국책연구기관은 AI 관련 안전 지침조차 갖추지 않은 것으로 나타났다.

28일 국회 정무위원회 소속 손명수 더불어민주당 의원이 국무총리실 산하 경제·인문사회연구회(경인사)와 소관 26개 국책연구기관으로부터 제출받은 자료에 따르면 2023년부터 지난달까지 이들 기관이 챗GPT 등 생성형 AI 구매·활용·지원을 집행한 건수는 총 6537건이었다. 총 집행액은 14억9591만원이었다.

공공부문에서 AI 활용이 늘며 부정확한 정보나 허위 출처가 보고서나 자료에 그대로 들어가는 사례도 나타나고 있다. 지난 5월 인사혁신처에 따르면 공무원 국외 훈련 결과 보고서 1385건 중 11건에서 AI에 의한 환각이나 인용 오류 등이 확인됐다.

이 같은 부정사용 사례가 발견되고 있지만 국책연구기관은 AI 부정사용 적발 건수가 한 건도 없다고 밝혔다. 이처럼 국책연구기관들의 AI 부정사용이 적발되지 않는 이유는 상당수 기관이 부정사용을 찾아낼 안전 장치를 갖추고 있지 않아서다. 경인사와 소관 26개 기관 중 10곳은 별도의 AI 연구윤리·활용 가이드라인이 없다고 밝혔다. 국토연구원 등 대다수 연구기관은 AI 부정사용 여부를 확인하기 위해 'GPT킬러' 등 AI 탐지 서비스를 활용하는 데 그쳤다.

[김송현 기자]