인간에 가까운 챗봇 열풍에 긴장하는 美英 대학가…AI 글에 안 보이는 표식까지 붙인다

세계 최대 AI연구소인 오픈AI가 이달 초 공개한 AI 챗봇 ‘챗GPT(ChatGPT)’가 한 달도 안 돼서 전 세계에서 열풍을 일으키고 있다. 전에도 AI 챗봇은 많았지만, 챗GPT는 마치 사람이 이야기하듯 자연스러운 대화가 가능해 화제가 됐다. 사람처럼 농담을 하거나 자의식을 가진 것 같은 대답을 보여주기도 했다.

AI 챗봇이 예상보다 빠르게 진화하면서 긴장한 곳이 있다. 바로 교육계다. 챗GPT 같은 AI 챗봇을 이용해 리포트를 대신 작성하게 할 수 있다는 우려가 현실화됐기 때문이다. 챗GPT는 수준급의 한국어도 구사할 수 있어 비단 영어권 국가만의 문제도 아니다.

영국 일간 파이낸셜타임스와 과학 전문지인 뉴사이언티스트에 따르면, 해외 교육계와 과학계에서도 챗GPT를 이용한 리포트 대필 문제에 직접 대응에 나서고 있다.

인공지능(AI)의 학습 과정을 구현한 이미지 컷. /조선DB

영국의 고등 교육기관을 대상으로 디지털 솔루션을 제공하는 영국정보시스템합동위원회(JISC)는 이번주 AI 챗봇에 대한 세미나를 개최했다. 이 자리에는 130개 대학의 대표가 모여 공개적으로 AI 챗봇에 대한 우려를 표시하기도 했다. 무료로 쓸 수 있는 챗GPT가 대학이 학생들에게 요구하는 에세이나 리포트 작성에 쓰일 수 있다는 것이다.

오픈AI가 이미 해결책을 마련하고 있다는 이야기도 나왔다. 오픈AI와 함께 작업을 하고 있는 텍사스대의 스콧 애런슨(Scott Aaronson) 교수는 오픈AI가 챗GPT의 작업물에 표식(워터마크)을 삽입하는 방법을 고민하고 있다고 밝혔다. 챗GPT가 작성한 글을 확인할 수 있는 워터마크를 삽입하고 교사나 학자가 이를 확인할 수 있는 서비스를 제공하겠다는 것이다. 애런슨 교수는 정확한 시점은 밝히지 않았지만 몇 달 안에 오픈AI가 이 서비스를 공개할 수 있다고 밝혔다.

그는 뉴사이언티스트와의 인터뷰에서 “챗GPT가 긴 텍스트를 생성하면 문장 사이에 눈에 띄지 않는 워터마크를 삽입할 수 있고, 이 워터마크를 통해 해당 문장이 챗GPT에서 만들었다는 걸 확인할 수 있다”며 “챗GPT로 작성한 글을 자신이 쓴 것처럼 다른 사람을 속이는 걸 막기 위해 노력하고 있다”고 말했다.

빈틈이 없는 건 아니다. 챗GPT가 만든 텍스트를 다른 AI가 만든 텍스트와 섞거나 하는 식으로 워터마크를 피할 가능성도 있다. 하지만 전문가들은 본질적으로 AI가 만든 텍스트를 구별하는 게 불가능한 일은 아니라고 본다. 애런슨 교수는 “단어 몇 개를 중간에 삽입하거나 일부를 삭제하는 식으로는 워터마크 신호를 피할 수는 없다”고 설명했다.

논문 표절 등을 검사하는 서비스인 턴인잇(Turnitin)도 AI 챗봇이 만든 텍스트를 검사하는 서비스를 제공하고 있다.

다만 AI 챗봇이 작성한 텍스트를 찾아내는 것에 회의적인 의견을 내는 전문가도 적지 않다. 애든버러 네이피어대의 빌 뷰캐넌은 AI가 만든 이미지에 워터마크를 삽입하고 탐지하는 건 비교적 간단하지만 텍스트에서 동일한 작업을 하는 건 기술적으로 쉽지 않다고 지적했다.

영국 버밍엄대의 마크 라이언 교수도 AI 챗봇을 탐지하는 기술이 잘못 작동할 가능성에 대해 우려했다. AI가 만든 텍스트를 제대로 찾아내지 못하거나 사람이 작성한 글을 AI가 작성했다고 오판할 가능성도 있다는 것이다. 그는 “AI 챗봇을 탐지하는 기술에만 의존할 수는 없다”고 말했다.

이런 탐지 서비스가 교육계에 추가 비용을 일으키는 등 부담을 줄 수 있다는 지적도 있다. 결국 AI 챗봇을 리포트나 에세이 작성에 이용하는 게 도움이 되지 않는다는 걸 학생들에게 잘 전달하는 게 가장 확실한 해결책이라는 이야기도 나온다. 럿거스대 연구팀이 2020년 진행한 연구 결과를 보면 구글의 온라인 지식 서비스인 ‘구글 앤서(Google answers)’를 과제 작성에 이용한 학생들의 성적이 그렇지 않은 학생보다 오히려 나빴다.

- Copyright ⓒ 조선비즈 & Chosun.com -