[단독] 서울대, AI 탐지기 사용 중단… "부정행위 잡으려다 교육 놓쳐"

대학가 AI탐지기 부작용 속출
직접 쓴 글도 AI 사용 판정 등
오류 많아 평가에 쓰기 어려워
적발 피하려는 꼼수만 늘어나
美·日 주요 대학도 이용 종료
"AI시대 학습 본질 왜곡 안돼"

서울대가 인공지능(AI) 활용 여부를 확인하기 위해 학내 구성원에게 제공해온 AI 탐지 서비스를 최근 중단했다. 대학가에서 생성형 AI를 이용한 부정행위가 잇달아 적발되면서 AI 탐지 서비스 사용이 급증하는 가운데 나온 이례적 조치다. 학교 측은 학생 사이에서 AI 탐지를 피하려는 꼼수가 확산하고, 교수들도 과제를 평가할 때 AI 사용 여부를 가려내는 데 집중하면서 교육의 본질이 흐려진다는 점을 우려했다. 학생들의 AI 사용을 무작정 막기보다 대학의 수업과 평가 방식부터 바꿔야 한다는 지적이다.

30일 매일경제 취재에 따르면 서울대는 AI 탐지 서비스 'GPT킬러'와의 제휴 계약을 지난달 1일 종료했다. GPT킬러는 입력된 문서가 생성형 AI로 작성됐을 확률을 알려주는 서비스다. 서울대는 학생뿐 아니라 교수진에게도 GPT킬러 사용 권한을 제공하지 않고 있다. 서울대 관계자는 "현재 AI 탐지 서비스는 AI 사용 여부를 명확히 판단하는 대신 AI가 작성했을 가능성을 추정하는 데 그친다"며 "정확도가 떨어지는 상황에서 사용하면 부작용이 커질 수 있다고 판단했다"고 설명했다.

서울대의 이 같은 결정은 AI 부정행위 확산에 따라 AI 탐지기 활용을 강화해온 대학가의 흐름과 대조적이다. GPT킬러 운영사 무하유에 따르면 지난해 10월 중간고사 기간 GPT킬러 이용량은 전년 같은 기간의 3.9배로 늘었다. 특히 과제 등을 검사하는 교수 평가용 이용량이 4.3배로 뛰었다.

문제는 AI 탐지기의 신뢰성이 충분히 검증되지 않았다는 점이다. 최병호 고려대 AI연구원 연구교수는 "대다수 AI 탐지기는 글에 생성형 AI 특유의 패턴이 얼마나 나타나는지 분석하는 것"이라며 "사람이 쓴 글이라도 자주 쓰는 표현이나 패턴에 따라 AI가 작성한 것으로 오판할 수 있고, 반대로 AI가 쓴 글도 탐지를 회피할 수 있다"고 말했다.

그럼에도 일부 강의에서는 AI 탐지 결과를 사실상 평가 잣대로 활용하고 있다. AI 사용 정황이 포착됐다는 이유로 성적을 깎거나 F학점을 부여하는 식이다. 중앙대 소프트웨어학부에 재학 중인 박 모씨(23)는 "과제의 AI 유사도 결과가 일정 수준을 넘기면 아예 채점도 하지 않겠다는 수업까지 있다"며 "논문이나 기사 등 자료를 인용하면 AI 유사도가 높아지기도 해 문장을 무의미하게 고쳐야 한다"고 말했다.

이에 따라 탐지기에 대한 과도한 의존이 학습의 본질을 왜곡할 수 있다는 지적이 나온다. 한 서울대 공대 교수는 "교수는 학생이 무엇을 이해했는지보다 AI를 썼는지 가려내는 데 집중하고, 학생은 좋은 글을 쓰기보다 탐지율을 낮추려 문장만 고치는 상황이 벌어지고 있다"며 "수업 내용을 이해하는 데도, AI 공부에도 아무런 도움이 되지 않는다"고 말했다.

해외 주요 대학도 낮은 신뢰도와 편향 가능성 등을 이유로 AI 탐지기를 부정행위 판정에 활용하지 않는 추세다. 예일대, 존스홉킨스대, 뉴욕대 등 미국 주요 대학 10여 곳은 낮은 신뢰도와 편향성 등을 이유로 AI 탐지 서비스 '턴잇인' 사용을 제한하고 있다. 일본 와세다대 역시 2023년 12월 턴잇인 기능 제공을 종료했으며 지난해 9월 기준 "향후 도입 계획이 없다"고 밝혔다.

전문가들은 생성형 AI가 일상적 학습 도구로 자리 잡은 상황에서 기존 리포트와 과제 중심인 평가 방식이 달라져야 한다고 강조한다. 기존 평가 방식을 유지한 채 탐지기만 덧붙이면 학생의 사고력보다 'AI를 사용했는지'가 중심이 될 수 있기 때문이다.

[김송현 기자]