"챗GPT는 헛소리 생성기" 신중론 고개

美전문가들 '기술함정' 등 경고
"과도한 환상은 금물" 속도조절
정보 정확도·완성도 부족 우려

AI 기술 최고봉으로 꼽히는 구글마저 수년간 공들여온 AI가 발표 첫날부터 실수를 하자 과도한 기대와 환상은 금물이라는 AI 신중론이 고개를 들고 있다.

AI가 인류의 삶을 바꿔놓을 것은 분명하지만 부작용을 줄이면서 효과를 얻으려면 속도 조절을 해가며 완성도를 높여야 한다는 지적이다. AI FOMO(Fear Of Missing Out)가 자칫 설익은 AI 양산으로 이어질 수 있기 때문이다.

아빈드 나레이야난(Arvind Narayanan) 프린스턴대 컴퓨터과학 교수는 챗GPT에 대해 "정확성을 고려하지 않고 답을 내놓는 '헛소리 생성기'"라고 평가했다. AI의 영향을 연구하는 나레이야난 교수는 챗GPT가 단지 내러티브를 제공할 뿐이라며 '기술 함정'을 경고했다. 그러면서 챗GPT가 어느 때보다 접근하기 쉽게 방대한 정보를 즉시 묶어내며 심지어 창의적인 작업을 해내지만 정보의 정확성은 신뢰할 수 없다고 꼬집었다.

IT 전문 매체 매셔블(Mashable)의 크리스 테일러(Chris Taylor)는 "오픈AI와 구글이 내놓은 대화형 AI가 내놓는 답변은 지어낸 이야기일 가능성이 15~20%다. 그들은 심지어 소설과 진실을 구분하지도 못한다"면서 사실과 다른 잘못된 답변임에도 그럴 듯하게 신속하게 답하는 '환각현상'을 문제로 지적했다.

한편 구글 측은 바드가 보여준 오류에 대해 "이번 오류는 엄격한 테스트의 중요성을 시사한다. 테스트 과정을 통해 신뢰성을 높이는 노력을 이어갈 것"이라고 밝혔다.

챗GPT가 불어올 수 있는 사회적인 문제에 대한 예방책을 만들기 위한 노력도 시작됐다. 서울대학교는 최근 교내 AI연구원과 함께 챗GPT를 활용한 부정행위 방지를 위한 대책 논의를 시작했다.

국내 대학생들이 이미 챗GPT를 과제나 보고서, 자기소개서 작성에 활용하는 것으로 드러나자 대학들은 봄학기 개강을 코앞에 두고 촉각을 세우고 있다. 일부 미국 대학과 학회는 'GPT제로' 같은 프로그램을 활용하는 등 GPT를 통해 논문이나 과제물을 작성하지 못하도록 하는 방안을 모색하고 있다. 대학 교수 중에는 올 봄학기 강의계획서에 '챗GPT를 과제 및 시험에 붙여넣는 행위를 허용하지 않는다'는 경고문을 넣는 경우도 있다.

윤선영기자 sunnyday72@dt.co.kr