내년 ‘AI 디지털교과서’ 도입, 우려 커진다

데이터 편향 등 윤리적 쟁점 관리·감독 규정 구체화 안 돼
예산·로드맵 공개도 지연…교육부 “최종 검정까지 관리”

초·중·고교에 인공지능(AI) 디지털교과서 도입을 1년 앞두고 교육부의 ‘속도전’에 우려가 커지고 있다. 윤리적 쟁점을 관리·감독할 규정이 부족한 데다 예산 배분·장기 로드맵 공개 또한 늦어지고 있다는 지적이 나온다.

12일 교육부, 교육계 관계자 등에 따르면 AI 디지털교과서에서 발생할 수 있는 데이터 편향 등 상당수 윤리적 쟁점을 관리·감독할 정부의 구체적 지침은 아직 구체화되지 않은 상태다. 교육부가 지난해 8월 내놓은 ‘AI 디지털교과서 개발 가이드라인’이 있지만 ‘편견을 담아선 안 된다’는 식의 선언적 내용이 대부분이다. 교육부 측은 “오는 11월 최종 검정 때까지 잘 관리하겠다”고 했다.

AI 디지털교과서는 학생 개인의 능력과 수준에 맞는 학습이 가능하도록 AI 등의 기술을 이용해 학습자료와 지원 기능을 실은 교과서다. 교육부는 내년 1학기부터 초등학교 3·4학년, 중학교 1학년·고등학교 1학년 수학·영어 등에 AI 디지털교과서를 도입한다.

이달 말 AI 디지털교과서 이용 시 유의점이 담긴 연구용역이 마무리되지만 역시 내용이 제한적이다. AI 디지털교과서 사용자 측면의 연구로, 교사·학생이 전자기기인 디지털교과서를 다룰 때 고려할 주의사항 등이 담긴다. 알고리즘에 따른 데이터 편향을 비롯해 AI 사용 시 발생하는 윤리적 쟁점 등 교과서 제작사가 고려해야 할 핵심 사항들은 빠졌다.

정부에서 AI 디지털교과서와 관련해 지난해와 올해 발주한 용역에도 교과서 제작사가 준수해야 할 윤리적 지침 등은 없었다. 보안 점검, 학습데이터 활용 체계 구축에 관련된 연구만 확인됐다.

AI의 데이터 편향은 교육계에서 AI 디지털교과서 도입 시 가장 우려하는 대목 중 하나다. AI 디지털교과서의 알고리즘도 결국 인간이 설계하기 때문이다. 설계자나 축적된 학습 데이터에 반영된 편견이 투영될 수 있다.

일각에선 현재 AI 디지털교과서의 기술 수준이 학습관리, 간단한 학습제안 등에 머물러 데이터 편향은 크게 우려할 사항이 아니라는 의견도 있다. 반면 민간 교과서 제작사가 AI 디지털교과서를 만들기 때문에 정부의 구체적 관리·감독이 더 중요하다는 반론도 제기된다.

지난해 12월 국회에서 AI 디지털교과서 추진 명목으로 특별교부금 5333억원을 배정했지만 아직 용처가 구체적으로 정해지지 않았다. 국회입법조사처는 지난 8일 보고서에서 “구체적인 용처를 정부가 빨리 정해야 한다”고 주장했다.

교육부가 5년마다 법령에 근거해 만들어야 하는 교육정보화 기본계획 또한 수립되지 않은 것으로 확인됐다. 6차 교육정보화 기본계획(2019~2023년)이 지난해 마무리돼, 올해 1월에는 새 교육정보화 기본계획이 나와야 했다. 교육부는 장기 로드맵인 교육정보화 기본계획에 따라 매해 시행계획을 짠다. 지난해 시행계획에는 AI 디지털교과서 추진 계획이 담겼다.

교육부 관계자는 “교육정보화 기본계획은 고등교육에 디지털 분야를 어떻게 접목시킬지 논의가 이어지면서 공개가 늦어졌다”고 했다.

김원진 기자 onejin@kyunghyang.com