AI 디지털교과서 ‘속도전’, 우리 아이는 안전한가

교육뷰 제공

초·중·고교에 인공지능(AI) 디지털교과서 도입을 1년 앞두고 교육부의 ‘속도전’에 우려가 커지고 있다. 윤리적 쟁점을 관리·감독할 규정이 부족한 데다 예산 배분·장기 로드맵 공개 또한 늦어지고 있다는 지적이 나온다.

12일 교육부, 교육계 관계자 등에 따르면 AI 디지털교과서에서 발생할 수 있는 데이터 편향 등 상당수 윤리적 쟁점을 관리·감독할 정부의 지침은 아직 구체화되지 않은 상태다. 교육부가 지난해 8월 내놓은 ‘AI 디지털교과서 개발 가이드라인’이 있지만 ‘편견을 담아선 안 된다’는 식의 선언적 내용이 대부분이다. 교육부 측은 “오는 11월 최종 검정 때까지 잘 관리하겠다”고 했다.

AI 디지털교과서는 학생 개인의 능력과 수준에 맞는 학습이 가능하도록 AI 등의 기술을 이용해 학습자료와 지원 기능을 실은 교과서다. 교육부는 내년 1학기부터 초등학교 3·4학년, 중학교 1학년·고등학교 1학년 수학·영어 등에 AI 디지털교과서를 도입한다.

이달 말 AI 디지털교과서 이용시 유의점이 담긴 연구용역이 마무리되지만 역시 내용이 제한적이다. AI 디지털교과서 사용자 측면의 연구로, 교사·학생이 전자기기인 디지털교과서를 다룰 때 고려할 주의사항 등이 담긴다. 알고리즘에 따른 데이터 편향 등 AI 사용시 발생하는 윤리적 쟁점 등 교과서 제작사가 고려해야 할 핵심 쟁점들은 빠졌다.

정부에서 AI 디지털교과서 관련해 지난해와 올해 발주한 용역에도 교과서 제작사가 준수해야 할 윤리적 지침 등은 없었다. 보안 점검, 학습데이터 활용 체계 구축에 관련된 연구만 확인됐다.

AI의 데이터 편향은 교육계에서 AI 디지털교과서 도입시 가장 우려하는 지점 중 하나다. AI 디지털교과서의 알고리즘도 결국 인간이 설계하기 때문이다. 설계자나 축적된 학습 데이터에 반영된 편견이 투영될 수 있다. AI 알고리즘에게 범죄자를 찾으라고 하자 흑인을 지목한 사례가 대표적이다. AI 디지털교과서가 제시하는 안내나 분석 또한 신뢰도를 얼마나 확보할 수 있을지 미지수다.

일각에선 현재 AI 디지털교과서의 기술 수준이 학습관리, 간단한 학습제안 등에 머물러 데이터 편향은 크게 우려할 사항이 아니라는 의견도 있다. 안성훈 경인교대 컴퓨터교육과 교수는 “현재 AI 디지털교과서를 민간 제작사 중심으로 개발 중인데, 학부모·교사가 외면하면 시장에서 살아남을 수 없다”며 “데이터 편향 등의 윤리적 문제는 민간 제작사들이 자발적으로 조심할 것”이라고 했다.

반면 민간 교과서 제작사가 AI 디지털교과서를 만들기 때문에 정부의 구체적 관리·감독이 더 중요하다는 반론도 제기된다. 향후 AI 디지털교과서의 데이터 수집 범위가 넓어지고 성능이 고도화될 때를 미리 대비해야 한다는 것이다. 교육부는 ‘AI 디지털교과서 개발 가이드라인’에서 “향후 AI 기능 개발 등에 따라 수집 데이터 항목은 변경 및 확대될 수 있다”고 밝혔다.

---

☞ “국민들이 ‘빨리빨리’ 원해” 디지털교과서 급히 도입한다고요? [뉴스 물음표]
     https://www.khan.co.kr/national/education/article/202403100800021

---

지난해 12월 국회에서 AI 디지털교과서 추진 명목으로 특별교부금 5333억원을 배정했지만 아직 용처가 구체적으로 정해지지 않았다. 특별교부금은 국회의 제한을 받지 않고 쓸 수 있는 예산으로 ‘쌈짓돈’이라 불린다. 5333억원 중 3800억원 가량이 교원 연수에 쓰일 예정이다. 국회입법조사처는 지난 8일 ‘디지털교육혁신수요’ 특별교부금 어떻게 쓸 것인가‘ 보고서에서 “구체적인 용처를 정부가 빨리 정해야 한다”고 주장했다.

교육부의 특별교부금을 기다리는 복수의 지역 교육청은 “아직 예산과 계획은 모두 내려오지 않았다”고 했다. 수도권의 한 교육청 관계자는 “당장 내년 시행인데 계획이 내려오지 않아 답답한 것은 사실”이라고 말했다. 교육부 측은 “특별교부금 배분이 지난해 연말에야 결정돼 논의가 이어졌고, 이달 말 배분을 마무리할 것”이라고 했다.

교육부가 5년마다 법령에 근거해 만들어야 하는 교육 정보화 기본계획 또한 수립되지 않은 것으로 확인됐다. 6차 교육정보화 기본계획(2019~2023년)이 지난해 마무리돼, 올해 1월에는 새 교육정보화 기본계획이 나와야 했다. 교육부는 장기 로드맵인 교육정보화 기본계획에 따라 매해 시행계획을 짠다. 지난해 시행계획에는 AI 디지털교과서 추진 계획이 담겼다. 한 교육계 관계자는 “로드맵을 공개해야 정책 타당성을 외부에서 검증 가능한데 이 같은 절차가 이뤄지지 않고 있다”고 했다.

교육부 관계자는 “교육정보화 기본계획은 고등교육에 디지털 분야를 어떻게 접목시킬지 논의가 이어지면서 공개가 늦어졌다”며 “AI 디지털교과서 추진은 지난해 발표한 내용을 토대로 진행 중”이라고 했다.

김원진 기자 onejin@kyunghyang.com