딥페이크 만연 해결하려면, ‘AI 윤리 교육’ 강화 필요

“학생에게 심각성 명확히 인지시켜야”

정보통신정책연구원이 지난해 발간한 ‘초등학교 인공지능 윤리 교재’. 딥페이크 기술을 법률로 규제해야 하는지 생각을 쓰는 내용이 담겨 있다. 정보통신정책연구원 누리집 갈무리

‘딥페이크는 장점을 살려 활용해야 하는 기술일까요? 아니면 사용을 자제해야 하는 기술일까요? 짝과 토론해 봅시다.’

정보통신정책연구원이 지난해 발간한 ‘중학교 인공지능(AI) 윤리 교재’에는 딥페이크 기술이 영화 산업 등에서 유용하게 쓰이는 반면, 범죄에 악용되기도 한다는 설명과 함께 기술 사용에 대한 찬반 토론을 하라는 내용이 담겼다. 다만 범죄에 인공지능을 악용할 경우 미치는 피해나 어떤 법적 처벌을 받게 되는지에 대한 구체적 설명은 없다.

최근 인공지능을 활용한 불법합성물 성범죄 피해자와 가해자 대부분이 미성년자라는 사실이 드러난 가운데, 인공지능 기술 활용이 이미 능숙한 청소년에게 정교한 윤리교육이 필요하다는 주장이 제기된다. 학교나 교사에 따라 선택적으로 인공지능 윤리교육이 이뤄지는 데다, 그 내용마저 인공지능이 악용될 때 미치는 피해 정도에 견줘 피상적인 탓이다.

한국청소년정책연구원이 지난 2일 발표한 ‘청소년 디지털 인재를 어떻게 양성할까’ 연구 보고서를 4일 보면, 청소년들 스스로도 인공지능 윤리교육의 필요성을 강조한다. 연구의 심층 면접에 참여한 한 중학생은 “한때 딥페이크에 관한 범죄 예방이 확 떴다가 말았는데, 이것이 심각한 문제라는 사실을 학생들에게 인지시켜줬으면 좋겠다”고 말했다. 인공지능 윤리 교육이 정규 교육 과정에 거의 포함되지 않은 탓에 교사나 학교의 의지에 따라 선택적으로만 이뤄지는 탓이다. 김명주 서울여대 교수(정보보호학과)는 “이미 청소년들은 국경을 초월해 인공지능 기술을 활용하고 있는 반면 미비했던 윤리 교육에 대한 후폭풍을 치르고 있는 것”이라고 최근 10대를 중심으로 불거진 불법합성물 성범죄 배경을 진단했다.

그나마 인공지능 윤리 교육을 시행하는 학교들에서 주로 쓰는 정보통신정책연구원의 인공지능 윤리 교재조차 ‘전쟁 시 정치인이 항복하는 내용의 허위 딥페이크 영상이 유포된다면 어떻게 대처해야 할까?’ 같은 질문을 제시하고 ‘스스로 생각하거나 토론해 보라’는 정도에 그친다. 서울시교육청이 지난해 배포한 ‘서울형 인공지능 윤리 교육자료’에도 프로그램을 통해 직접 특정인의 얼굴을 동영상에 합성해본 뒤, 딥페이크 기술의 악용을 어떻게 예방할 수 있을지 생각해보자는 내용만 담겼다.

경기 부천의 한 고등학교 정보교사인 이청현(34)씨는 “이번 불법합성물 성범죄 사태 이후 그냥 넘어가서는 안되겠다는 생각이 들어 ‘딥페이크 교육’ 자료를 만들고 수업 시간에 특강을 했다”며 “현재 교과서인 2015 개정 교육과정에는 인공지능이 큰 비중을 차지하지 않아 사회적 이슈가 발생하면 뉴스를 보여주며 가르치고 있다”고 말했다. 이씨는 “현재 교재가 예방 효과가 전혀 없는 건 아니지만, 이미 불법합성물을 만들고 유포하는 학생들의 경우 실효성 있을지 의문”이라며 “사회적 룰을 어겼을 때 어떤 책임을 져야 하는지, 피해 학생은 어떤 절차를 거칠 수 있는지 등을 함께 명확히 알려줄 필요가 있다”고 말했다.

김명주 교수는 “윤리 교육은 가해자가 어떤 책임을 질 수 있는지, 피해자는 어디에 도움을 청할 수 있는지 등이 함께 담겨야 한다. 지금처럼 ‘딥페이크는 악용될 수 있다’ 정도에 그치면 오히려 아이들의 호기심을 자극한다”고 말했다. 이어 “현재 코딩, 프로그래밍 교육 등 기술을 배우는 교육에 치중하고 윤리는 부록처럼 따라오는 경우가 많다”면서 “기술 교육보다 더 먼저 이루어져야 하는 건 이미 우리 삶 속에 들어온 기술을 어떻게 받아들여야 할지 가르치는 ‘이용자 윤리 교육’”이라고 짚었다.

고나린 기자 me@hani.co.kr