“일부러 오타까지 내줘요”…교수님도 깜빡 속은 ‘AI 꼼수 전쟁’

사람처럼 자연스러운 ‘휴머나이저’
일부러 오타 내는 ‘오토타이퍼’
인플루언서 동원 당당하게 마케팅
대학, 구술이나 손 글씨로 대체

AI로 숙제를 대신 해주는 앱을 사용하는 모습을 AI로 그렸다. [챗GPT]

“글쓰기가 싫다면 피하세요. 최신 AI 기술을 사용하면 숙제를 대신하게 하고도 절대 걸리지 않습니다.”

최근 틱톡과 유튜브 등 소셜 미디어에는 학생들에게 거부할 수 없는 유혹을 건네는 영상들이 넘쳐나고 있다. AI 기술의 발달로 유치원부터 대학까지 교육 현장에서 AI 탐지 소프트웨어 도입이 늘고 있지만, 이를 교묘하게 우회하는 신종 앱들이 기승을 부리며 교육계를 긴장시키고 있다.

뉴욕타임스(NYT)는 18일(현지시간) 과거의 단순한 복사 및 붙여넣기식 표절이 이제 AI를 활용한 복잡한 기술적 회피로 진화했다고 보도했다.

현재 소셜 미디어를 통해 대대적으로 홍보되고 있는 대표적인 회피 도구로는 AI가 생성한 텍스트의 로봇 같고 공식화된 문맥을 자연스러운 사람의 말투처럼 재작성해 주는 ‘휴머나이저’와, 사용자가 자리를 비운 사이 텍스트가 문서에 천천히 입력되게 하여 마치 사람이 직접 타자를 치는 것처럼 꾸미는 ‘오토타이퍼’가 있다.

특히 오토타이퍼는 오타를 냈다가 지우고 수정하는 과정까지 날조하여 교사들이 문서의 작성 기록을 검사할 때 완벽하게 속일 수 있도록 설계됐다.

에듀테크 업계와 스타트업들은 학생들의 학업 스트레스를 덜어준다는 명목하에 이중적인 태도를 취하고 있다. 일부 회사는 AI 탐지 도구를 학교에 판매하면서, 동시에 학생들이 AI가 쓴 글을 들키지 않게 재작성해 주는 앱을 월 10~20달러의 구독형으로 제공하기도 한다.

유명 맞춤법 검사기 ‘그래머리’의 제작사인 슈퍼휴먼의 교육 부문 책임자 제니 맥스웰은 탐지와 회피 사이의 끝없는 경쟁을 가리켜 더 큰 쥐를 잡기 위한 더 큰 고양이의 싸움이라고 지적했다.

AI 탐지기인 GPT제로 역시 교육자와 학생 모두를 타깃으로 삼는 과정에서 논란을 빚었다. 한 마케터는 가짜 대학원생 조교 행세를 하며 틱톡에서 앱을 홍보했는데, 해당 앱은 AI를 탐지하는 기능뿐 아니라 몇 초 만에 인용구까지 완벽한 논문을 작성해 주는 생성 기능까지 갖추고 있다.

수백만 명의 팔로워를 거느린 틱톡 인플루언서들은 이러한 도구들을 마치 마법처럼 포장한다. 650만 팔로워를 보유한 한 테크 인플루언서는 특정 앱을 이용해 챗GPT가 쓴 에세이를 사람이 쓴 것처럼 둔갑시키는 방법을 당당하게 보여준다.

학생이 샌드위치를 먹으며 쉬는 동안 에세이가 자동으로 완성되는 모습을 보여주거나, 과학 실험 보고서를 대신 써주는 기능을 집중적으로 홍보하는 앱들도 등장했다. 논란이 일자 일부 기업들은 해당 광고 대행사와의 계약을 해지하거나 앱을 삭제하는 등 뒤늦은 수습에 나서기도 했다.

가장 큰 문제는 교육적 부작용이다. 여러 연구에 따르면 AI에 과도하게 의존하는 학생들은 새로운 기술을 배우지 못하거나 기존의 사고력이 퇴화하는 인지적 오프로딩 현상을 겪고 있다.

칼튼 대학의 AI 학술 이니셔티브 책임자인 조지 쿠삭은 “에듀테크 앱들이 도우미를 자처하지만 실제로는 학생의 모든 것을 대신해주는 구조”라고 강하게 비판했다.

하지만 무조건적인 금지 역시 정답은 아니다. 하버드 대학교 학생이자 인플루언서인 제니 응은 AI 사용이 이미 일상화되었지만, 이를 남용하는 것에 대한 학생들 수치심도 분명 존재한다고 전했다.

하버드의 교수진은 이에 대응해 기말고사를 구두 시험이나 전통적인 지필고사로 대체하는 방식을 채택하고 있다. 교육 전문가들은 미래의 직장에서 AI 활용이 필수가 될 것이기 때문에 기술 자체를 완전히 금지하는 것은 교육적 직무유기가 될 수 있다고 경고한다.