챗지피티 시대엔 ‘헛소리 탐지능력’이 필수 [유레카]

[유레카]

‘글쓰는 인공지능’ 챗지피티 시대의 필수능력. 김재욱 화백

2016년 3월 이세돌-알파고 대국이 예고편이라면, 지난해 11월30일 공개된 오픈 에이아이(Open AI)의 ‘챗지피티’(ChatGPT)는 인공지능 시대의 본격 개막 신호다. 거대언어모델 기반 이미지 창작 도구인 ‘미드저니’·‘달리2’에 이어 대화형 인공지능 챗지피티의 출현은 사고와 창작 활동이 더 이상 인간만의 영역이 아니라는 걸 알려준다.

프로그램 코드 작성, 수학 문제 풀이, 발표 자료 만들기, 기사 쓰기 등에서 챗지피티 활용 사례가 경탄과 탄식 속에 알려지고 있다. <네이처>는 지난 12일, 챗지피티로 작성한 논문 초록이 독창성 점수 100%로 표절검사기를 통과했고, 전문 리뷰어 수준의 진위 식별 능력을 과시해 과학자들을 우롱했다고 보도했다. 인공지능이 사람의 자연언어를 이해할 수 있게 돼 사람이 코딩할 필요 없이 말과 글로 명령할 수 있게 됐다. 코딩 교육 무용론이 나오고 있다. 글쓰기 과제에서 오·탈자와 비문이 없으면 챗지피티 사용을 의심해야 할 상황이다.

시험과 평가가 필수인 학교엔 발등의 불이다. 미국 일부 학교는 교내 와이파이망과 챗지피티 접속을 차단하고, 일부 대학은 시험과 과제물 제출 때 컴퓨터를 못 쓰게 하고 손글씨와 구술시험을 도입하고 있다. 한편 챗지피티 같은 인공지능은 갈수록 일상적 도구가 될 것이기 때문에 오히려 학교에서 적극적으로 가르쳐야 한다는 주장도 있다.

인공지능으로 인한 변화 범위를 예견할 수 없지만 현재 챗지피티 특성 중 주목할 게 두 가지 있다. 첫째, 챗지피티는 기본적으로 우리가 알고 있는 것을 요약하고 정리해서 답변해주는 도구라는 점이다. 새로운 사실과 관점을 밝혀내는 게 아니라, 보편적으로 수용되거나 확립된 사실과 관점을 깔끔한 형태로 출력하는 도구일 뿐이다. 둘째, 챗지피티는 사실 확인을 하지 않고 잘못된 사실도 확신하는 문구와 표현으로 출력물을 내놓는다는 점이다. 둘 다 기존 데이터를 통해 학습하는 인공지능의 기본 속성이다.

챗지피티의 이런 특성은 인공지능의 취약점을 드러내며 대응 방향도 알려준다. 이용 주체의 비판적 사고와 사실 검증 능력이다. 제대로 알고 있어야 인공지능의 산출물을 검증하고 활용할 수 있다. 어니스트 헤밍웨이는 글쓰기 비결에 대해 “헛소리 탐지기 내장이 최선”이라고 답했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr