[광화문에서/임현석]서울대는 멈춘 AI 탐지… 교육도 평가도 바뀌어야

임현석 디지털랩 전략영상팀장

‘따라서’나 ‘결론적으로’ 같은 접속사는 정형화된 느낌을 주니 최대한 뺄 것. 문장 길이를 들쭉날쭉하게 쪼갤 것. ‘더 나은 미래로 나아가야 한다’ 식의 마무리는 버릴 것.

대학생이 많이 모인 온라인 커뮤니티에서 최근 인공지능(AI) 탐지기를 우회하는 방법이라면서 공유되는 노하우다. 대학이 AI 활용을 막겠다며 탐지 프로그램을 들이대자 학생들도 불이익을 받지 않으려고 대응 요령을 짜맞추는 것이다.

챗GPT와 같은 생성형 AI가 등장한 이래 표절 논란이 일자 대학들은 AI 감지를 위한 상용 도구를 서둘러 강의실에 들여왔다. 문제는 이런 AI 탐지기가 사람이 직접 쓴 글이라도 문장의 패턴과 흐름이 균질하면 AI 글로 의심한다는 점이다.

AI는 문장을 이어갈 때 통계적으로 가장 무난한 어휘를 고른다. 문장 호흡은 지나치게 균등하고 접속사를 남발하는 경향도 있다. 감지 툴은 이런 패턴을 파악하는데, 이는 여느 잘 쓴 글에서 나올 수 있는 특징이기도 하다.

틀 잡힌 글은 AI가 썼다고 의심을 사다 보니 학생들이 공유하는 회피 노하우 중엔 일부러 비문이나 오타를 적절히 섞어 쓰라는 조언도 있다. 일부 강의에서 유사도 수치만으로 낮은 학점을 매기자 학생들이 억울한 낙인을 피하기 위해 멀쩡한 글의 완결성을 낮추고, 논리적 연결을 헐겁게 하는 것이다. 막을 수 없는 걸 막으려니 교육 현장이 점차 기괴해진다.

서울대가 교내에 도입해 활용하던 AI 탐지 서비스의 재계약을 접고 지원을 전면 중단한 것도 이런 파행 끝에 나온 결정이다. 서울대는 학생뿐 아니라 교수진에게도 탐지기 사용 권한을 주지 않기로 했다. 탐지 도구에서 나오는 결과값은 단어 배열에 따른 통계적 추정치일 뿐 작성 과정까진 입증하지 못한다고 봤다. 불완전한 툴로 학생을 평가할 때 생기는 부작용이 더 크다고 본 것이다.

기계로 기계를 잡아내는 방식은 애초에 한계가 분명하다. 탐지기는 학생이 실제로 어떤 고민을 하며 글을 썼는지 알지 못한다. 게다가 수십 가지 AI 패턴을 지우고 개인의 문체 호흡까지 학습하는 기술도 나오고 있다. 단속은 점점 더 무력해질 것이다.

교육이란 학생이 생각하는 과정 자체를 존중하고 그 힘을 길러주는 것이어야 한다. 그럼에도 교육 현장은 평가 편의성 때문에 과제물에 얼마나 많은 지식이 나열돼 있는지만 파악해 점수를 매겨 왔다. 우리 교육은 결과물 이전에 학생이 어떤 질문과 문제의식을 지니고 출발했는지 들여다보는 데 소홀했다.

AI 활용은 불가피하다. 차라리 AI가 내놓은 답변에 대해 학생이 의심을 거쳤는지, 그렇다면 어떻게 고쳐 나갔는지 살피는 쪽이 합리적인 교육이다. 학생이 AI 답변을 비판적으로 바라보고 자기 판단을 해 나가도록 유도해야 한다. 학습이란 단순히 매끄러운 완제품을 조립하는 일이 아니다. 스스로 질문을 던지고 모순을 바로잡으며 생각을 벼려내는 과정이다. 그런 교육과 평가는 수고롭지만, 본질이다.

임현석 디지털랩 전략영상팀장