"오픈AI, '정확도 99%' AI 이용 감지 도구 개발해 놓고 비공개"... 이유는?

거짓 탐지로 억울한 피해자 생길 가능성
WSJ "오픈AI, 2년째 출시 여부 논쟁 중"

챗GPT 개발사 오픈AI가 에세이나 연구 논문 등에 챗GPT가 사용됐는지 판별해 주는 도구를 진작 개발해 놓고도 외부에 공개하지 않고 있는 것으로 알려졌다. 100%의 정확도가 담보되지 않는 한, 챗GPT를 전혀 쓰지 않았음에도 '사용했다'고 잘못 탐지하는 부작용이 발생하지 않을 가능성을 배제할 수 없다는 이유에서다.

"오픈AI, 이미 1년 전 개발 마쳐"

미국 월스트리트저널(WSJ)은 4일(현지시간) 오픈AI가 챗GPT 이용 여부 감지 도구의 출시 준비를 이미 1년 전쯤 마쳤다고 보도했다. 한 소식통은 "버튼을 누르기만 하면 되는 문제"라며 당장이라도 공개할 수 있는 상황임을 확인했다고 신문은 전했다.

이 도구는 챗GPT가 생성한 콘텐츠에 '이용자에게는 보이지 않는' 고유의 워터마크가 삽입돼 있다는 점을 이용한다. 워터마크를 찾아냈을 경우, '챗GPT가 사용된 것'으로 판별하는 셈이다. 정확도는 99.9%에 이른다고 한다.

이른바 AI 감지 도구는 그간 교육계를 중심으로 필요성이 계속 제기돼 왔다. 학생들이 스스로 해야 할 시험이나 과제에서 AI 도움을 받는 경우가 늘고 있기 때문이다. 비영리단체인 민주주의기술센터의 최근 조사에 따르면, '학생들이 AI를 이용해 과제를 했다'고 생각하는 미국 중·고교 교사 비율은 전체의 59%에 달했다. 1년 전보다 17%포인트 증가한 수치다.

출시 않는 이유는... 0.01%의 가능성 때문?

이처럼 확실한 수요가 있고 기술도 사실상 완성 상태지만, 오픈AI는 2년 동안 내부적으로 이 도구의 출시 여부를 두고 논쟁해 온 것으로 전해졌다. 출시를 반대하는 이들은 ①감지기의 공개가 챗GPT 이용 감소로 이어질 수 있다는 점을 걱정하는 것으로 알려졌다. 챗GPT 이용자 상당수는 숙제 등에 AI 힘을 빌리려는 학생들인데, 감지기가 나오면 챗GPT 사용을 중단할 것이라는 얘기다. 이용자가 감소하면 자연히 매출도 줄 수밖에 없다.

②아주 간단한 기술만으로 도구가 무력화할 가능성이 있다는 지적도 나온다. WSJ는 "일부 직원은 챗GPT가 생성한 글을 다른 언어로 번역한 다음에 다시 번역하는 식의 작업을 통해 워터마크를 지울 수 있다는 우려를 제기했다"고 전했다.

③0.01%의 확률이라도 억울하게 의심받는 사례가 생길 수 있다는 점 역시 문제로 꼽힌다. 실제로 지난해 미국에서는 에세이 평가에서 고득점을 한 고교생이 AI 감지 도구 '턴인잇'에 의해 '챗GPT 활용 의심' 판정을 받자 억울함을 호소한 사례가 있었다. 미 워싱턴포스트는 "AI 감지기에서 부정행위가 있었다고 판단하는 한, 교사가 학생을 신뢰하는 것 외에는 부정행위가 없었다는 점을 증명할 방법이 없다"고 짚었다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com

한국일보

IT/과학