[오철우의 과학풍경] 인공지능 챗봇 시대, 필자의 책임과 신뢰

[오철우의 과학풍경]

지난해 11월 말 공개된 챗지피티(GPT)는 책, 사전, 논문을 비롯해 방대한 텍스트의 데이터베이스에서 단어와 문장 연결의 통계적 패턴을 익힌 언어 생성 인공지능으로, 사람처럼 상당히 능숙하게 대화하며 글을 쓰는 능력을 보여준다. 그림은 챗지피티의 첫 화면 갈무리.

오철우 | 한밭대 강사(과학기술학)

시도 짓고 논문도 쓰는 인공지능(AI) 챗지피티(chatGPT)를 두고서 요 몇달 새 글 쓰는 사람들의 반응이 뜨겁다. 한마디로 요약한다면 ‘놀랍고도 두렵다’로 간추릴 만하다. 챗지피티는 미국 인공지능 기업 오픈에이아이(OpenAI)가 지난해 11월 공개한 대화형 인공지능인데, 책, 사전, 논문을 비롯해 방대한 텍스트에서 단어와 문장 연결의 통계적 패턴을 익힌 딥러닝 덕분에 사람처럼 상당히 능숙하게 대화하며 글을 쓸 줄 안다.

칼럼을 준비하며 챗지피티를 활용해봤다. “인공지능 챗봇 시대, 필자의 책임과 신뢰라는 제목으로 칼럼을 작성하시오.” 불과 몇초 만에 분량을 맞춘 칼럼이 생성됐다. 밋밋한 문체와 구성, 두루뭉술한 설명은 평범하고 정보 출처는 불분명해 성에 차지 않았지만, 말 그대로 놀랍고도 두려웠다. 챗지피티 공개 직후, 학생들이 과제물을 챗봇에 맡겨버릴지 모른다는 교육자의 근심, 가짜 논문이 쉽게 생성될 수 있다는 과학자의 우려가 쏟아졌는데 다들 이유 있는 반응이었다.

두달여 시간이 흐른 요즘에는 다양한 의견이 나오고 있다. 일부 교육자들은 챗봇을 교육과정에 도입해야 한다고 주장한다. 챗봇 사용 금지가 실효성이 없는데다, 챗봇이 일상이 될 시대에 오히려 챗봇을 비판적으로 활용하는 능력과 태도가 필요하다는 것이다.

과학자 사회도 여러 논의로 분주하다. 최근엔 인지과학, 계산언어학 분야의 다섯 학자가 <네이처>에 기고한 ‘챗지피티: 연구 분야의 다섯 원칙’에서 과학논문의 신뢰성을 잃지 않기 위해 다섯가지 대책과 실행이 필요하다고 제안했다. 먼저 챗봇에서 오류와 편향 문제가 종종 발견되기에 전문가 검증과 확인 절차가 꼭 필요하다는 점, 그리고 인간 필자는 인공지능을 어떻게 활용했는지 투명하게 밝힐 책무를 다해야 하고, 투명하고 민주적으로 제어되는 인공지능 개발에 더 많은 투자가 필요하며, 사람과 인공지능 간에 건강한 ‘지능형 파트너십’을 발전시킬 균형의 방법을 찾아야 한다는 점, 그리고 이를 위한 토론이 당장 연구와 교육 현장, 국제사회에 많아져야 한다는 점이 강조됐다.

챗지피티의 충격은 새삼 필자다움의 문제를 돌아보게 한다. 아리스토텔레스는 <수사학>에서 설득과 이해를 위한 논증에 중요한 세 요소로, 텍스트의 충실성과 논증기법(로고스), 청중의 마음상태(파토스)와 더불어 믿음직한 필자의 능력과 태도(에토스)를 강조했다. 인간 필자들이 쓴 텍스트의 패턴을 모방하지만 필자로서 책임지지 않는 인공지능 챗봇과 다르게, 차별성을 고양해야 하는 인간 필자들에게 책임과 신뢰라는 요소는 더욱 중요해진다. <네이처>에 실린 다섯 원칙에서 필자다움의 에토스를 다시 읽는다.