OpenAI가 제시한 교육자 고려사항_통번역사 엘리의 AI & 영어교육 (2)

엘리는 한 때 대치동과 목동에서 아이들에게 영어를 가르쳤었다. 한국 대학 입시를 위한 영어교육은 아니었다. 영국계 대학 입시를 준비하는 학생에게 IELTS 에세이 작성을 지도하기도 했고, 영국에서 중고등학교를 다니는 학생들이 방학 중 한국에서 부족한 부분을 채우기 위해 마련된 수업에 투입된 적도 있다. 라이팅수업과 세익스 피어를 가르쳤다.

그녀에게 가장 인상 깊었던 시간은 초등학생과 중등학생을 위한 영어수업이었다. 온 마음과 동작과 정성과 애정을 쏟았다. 다양한 소재의 수업주제에 대해 공부하고 조사하였다. 아이들이 한줄 한줄 작성한 과제를 체크하고, 녹음한 목소리를 들으며 실수를 실수로 아이들 스스로 알 수 있게 해주던 그 과정은 단순한 수업이 아니었다. 서로를 향한 애정과 신뢰를 바탕으로한 따듯한 소통의 과정이었다. 수업시간에 한국어 사용이 금지되어 시끌벅적하진 않았지만,(물론 쉬는시간엔 요란스럽기만 했다) 아이들과 그녀는 서로의 표정과 동작을 읽으며 소통을 배우고, 배려를 배우고, 언어를 배워갔다. 신기한 것은 입시 영어를 가르치진 않았지만 고급반의 6학년 아이들은 수능 지문을 졸업시험으로 풀어냈다.

엘리는 AI가 신기하고 일면 신비롭기까지하다. 그리고 적응하는 중이지만 많은 부분 환영하는 편이다. 하지만, 아무래도 AI가 아무런 여과없이 교육현장으로 들어오는 것은 조금, 아니 조금 보다는 더 불편하다. 그래서 그녀가 할 수 있는 것을 했다. ChatGPT의 개발사인 OpenAI는 ' ChatGPT 사용에 관한 교육자의 고려사항(Educator considerations for ChatGPT) ' 교육자들이 ChatGPT 사용할 때 고려해야할 내용들을 제시했는데 이를 번역했다. (AI의 도움도 받아서) 올해 초 작성되었던 것으로 기억하는데, 아직까지 한국문서로 번역된 것을 보지 못하기도 했고, OpenAI에서도 이런 고민들을 하고 있다는 사실을 알리고 싶었기 때문이다. 교육은 인류의 현재이자 미래이기 때문이다.

"ChatGPT 사용에 관한 교육자 고려 사항"

본 페이지는 교육 및 학습에 ChatGPT를 사용하기 위해 자세히 이해하고자 하는 교육자들에게 ChatGPT의 기능, 제한 사항 및 고려 사항에 대해 간략한 개요를 담고 있습니다. ChatGPT와 OpenAI AI text classifier(AI 텍스트 감별기) 중점을 두고 있지만, 상당부분은 광범위한 교육과 학습을 위한 언어 모델 사용에 관한 것입니다.

해당 페이지는 포괄적인 모범 사례집이 아닙니다. 교육에 있어 AI의 사용과 영향에 관한 교육 전문가들과 언어 모델 제공업체간의 논의의 시발점이라고 할 수 있습니다.

ChatGPT는 무엇인가요? (What is ChatGPT? )

ChatGPT는 대화형식으로 상호 작용하도록 학습된 OpenAI에서 개발한 AI 시스템입니다. ChatGPT는 대화하는 방식으로 이어지는 질문에 대답하고, 잘못된 전제에 이의를 제기하며, 부적절한 요청을 거부할 수도 있지만, 결코 완벽하지만은 않습니다. ChatGPT는 2022년 3월부터 사용가능한 GPT-3.5라는 대규모 언어 모델(또는 일반적으로 텍스트를 작성하도록 훈련된 AI 시스템)을 기반으로 만들어졌습니다.

ChatGPT는 누가 사용할 수 있나요? (Who is ChatGPT available to?)

현재 ChatGPT는 당사의 이용 약관에 따라 지원되는 국가에서 온라인에서 무료로 사용할 수 있습니다. 이 문서의 작성시점은 유료 버전의 ChatGPT가 테스트 초기 단계 입니다.

ChatGPT 시스템과는 다르지만, 개발자가 언어 모델로 구동되는 애플리케이션을 구축할 수 있도록 지원하는 OpenAI의 애플리케이션 프로그래밍 인터페이스(application programming interface), 즉, "API"를 활용하여 개별 개발자가 개발한 다양한 애플리케이션을 통해 OpenAI의 모델을 사용하실 수도 있습니다. 이러한 앱들은 다양한 사용자와 사용 환경에 맞게 구축되며, OpenAI의 이용 약관 및 사용 정책의 적용을 받게되며 ChatGPT와는 다른 기능, 디자인 및 완화 조치를 포함할 수도 있습니다.

교육적 사용에 있어 위험과 기회
(Examples of education-related risks and opportunities)

저희는 이 기술이 어떻게 사용될 것인지, 사람들이 이 기술을 사용해 어떤 종류의 애플리케이션을 만들어 갈 것인지 알아가는 단계에 있습니다. 교육적 맥락에서 생성형 AI의 다양한 활용에도 큰 기대를 가지고 있지만, 다른 기술과 마찬가지로 교육자의 감독 하에 교실로 도입되는 것이 중요하다고 생각합니다. 당사는 또한, 많은 교육자들이 이 기술로 무엇이 가능한지, 어떤 한계가 있는지 등의 많은 의문점을 가지고 있다는 것도 알고 있습니다.

이에 광범위한 개요를 제시해드리고자 합니다. 모든 사항을 포괄하고 있지는 않지만, 이 기술을 사용할 때 고려해야할 추가적인 논의와, 의견 더해지는 계기가 되기를 바랍니다. 고려사항에 대한 의견이 있으시면 첨부된 의견 양식에 보내주시기 바랍니다.

간소화되고 개인화된 교육 (Streamlined and personalized teaching)

저희들이 봐온 ChatGPT를 사용하여 가르치는 교사들의 몇 가지 사례를 소개합니다:

• 수업 계획 및 기타 활동을 위한 초안 작성 및 브레인스토밍
• 퀴즈 문제 또는 기타 연습 문제 설계 지원
• 맞춤형 튜터링 도구 실험
• 사용자의 다양한 선호도에 맞도록 자료 맞춤화(언어 단순화, 다양한 읽기 능력 수준에 맞도록 조정, 다양한 관심사에 맞는 맞춤형 활동 만들기)
• 학생 작문에 대한 문법적, 구조적 피드백 제공, 글쓰기 및 코딩과 같은 영역의 기술 향상 활동(코드 디버깅, 글 수정, 설명 요청)에 사용
• AI가 생성한 텍스트 비평

위의 몇 가지 사례는 개인화를 위한 도구로서 ChatGPT의 잠재력을 활용하는 것이지만, 학생의 개인 정보 보호, 편향된 대우, 건강에 해로운 습관 형성 등의 위험도 존재합니다. 학생이 직접 감독 없이 이러한 서비스를 제공하는 도구(tool)를 사용하기 전에 학생과 교육자는 아래에 설명된 도구의 한계를 파악해야합니다.

마찬가지로, 교사들이 과제를 만들거나, 학생의 에세이에 대한 코멘트를 작성 시, 성공적으로 활용했다는 보고가 있지만, ChatGPT 그 자체를 평가 도구로 신뢰해서는 안 됩니다. 교사는 프롬프트의 입력과 그 결과물 모두를 신중하게 검토해야 하며, 사용 정책 에 명시된 대로 AI 시스템을 사용했거나 의존한 부분을 공개해야 합니다.

부정행위 및 표절 적발 (Academic dishonesty and plagiarism detection)

현재 다수의 학군(school districts)과 고등 교육 기관에서 학업 부정행위에 대한 정책수립에 생성형 AI를 고려하고 있지 않다는 것을 알고 있습니다. 많은 학생들이 AI 사용 사실을 밝히지 않고 과제에 사용해 왔다는 사실 또한 잘 알고 있습니다. 각 교육기관은 교육자와 학생에게 적합한 방식과 일정에 따라 이러한 문제를 해소할 것입니다. 허나, 당사는허용되는 사용자와 허용되지 않는 사용자에 대한 적절한 기준적 기대치가 설정되지 않은 상황에서 이 기술을 사용한 학생에 대한 처벌적 조취에는 주의를 기울이고자 합니다.

OpenAI AI 텍스트 클래시파이어(text classifier) 와 같은 판별기는 AI가 생성한 콘텐츠를 탐지하는데 도움이 될 수 있지만, 완벽하지 않습니다. 이러한 도구는 AI가 생성한 콘텐츠를 AI가 생성한 콘텐츠로 식별하지 못하는 오류과 사람이 작성한 콘텐츠를 AI가 생성한 콘텐츠로 표시하는 오류 모두 발생할 수 있습니다. 학생들은 생성된 콘텐츠의 일부 단어나 절을 수정하여 탐지를 회피하는 방법을 빠르게 학습할 수도 있습니다. 또한 OpenAI AI 텍스트 클래시파이어의 가동 범위가 좁아인터넷이나 다른 출처에서 복사한 텍스트의 사용과 같은 표절을 탐지할 수 있는 도구도 아닙니다.

그렇기에 분류기 또는 탐지기는 콘텐츠의 출처를 파악하고 학문적 부정행위나 표절 확인을 위한 전체적인 조사 시, 여러 요소 중 한 가지로만 사용해야 합니다. 학생이 명확한 기준적 기대치를 인지 할수 있도록 설정하는 것이 중요합니다. 주어진 과제에서 허용되는 것과 허용되지 않는 것을 이해하여 모델 생성형 콘텐츠를 과제에 사용했을 때 발생할 수 있는 결과를 예측할 수 있기 때문입니다.

AI 윤리와 리터러시(AI ethics and literacy)

궁극적으로는 학생들이 ChatGPT와 같은 도구가 보편화된 세상을 탐색하는 방법을 배워야 한다고 생각합니다. 언어 모델을 효과적으로 사용하는 방법과 같은 새로운 종류의 기술뿐만 아니라 이러한 모델이 보여주는 일반적인 한계와 실패에 대한 학습도 포함되어야 합니다.

이 중 일부는 STEM 교육에 해당하지만, 대부분은 윤리, 미디어 리터러시, 다양한 출처의 정보를 검증하는 능력, 예술, 사회 과학 및 인문학의 기타 기술에 대한 학생들의 이해를 바탕으로 합니다.

진실성(Truthfulness)

ChatGPT와 같은 툴은 합리적으로 보이는 답변을 생성할 수 있지만, 모든 분야에서 일관되거나 정확하다고 신뢰할 수 없습니다. 때때로 말이 되지 않거나 잘못된 주장을 제시할 수 있습니다. 출저 이름, 직접 인용, 인용 및 기타 세부 사항을 조작할 수도 있습니다. 또한 일부 주제에서는 정답이 없는데도 정답이 있다고 주장하거나 서로 반대되는 두 주장의 상대적 강도를 잘못 표현하면서 진실을 왜곡할 수도 있습니다. 따라서 학생들은 신뢰할 수 있는 외부 출처를 사용하여 정보의 신뢰성을 평가하는 방법을 아는 것이 중요합니다.

ChatGPT가 항상 정확한 답을 제공하지 못하는 이유 중 하나는 훈련 데이터가 2021년에 중단되었기 때문입니다. 즉, 그 시점 이후에 발생한 시사, 트렌드 또는 그 이후에 발생한 그 어떤 것도 인식하지 못합니다. 최신 지식이나 정보가 필요한 질문이나 주제에 적절하게 응답할 수 없습니다. 예를 들어, 현재 미국 대통령이 누구인지 또는 오늘이 무슨 날인지 모를 수 있습니다.

ChatGPT에는 외부 기능이 없으며 외부 출처에서 정보를 찾을 수 없습니다. 즉, 현재 채팅 외부의 인터넷, 검색 엔진, 데이터베이스 또는 기타 정보 소스에 접근할 수 없습니다. 사실확인, 참고 자료 제공, 계산이나 번역 등 수행할 수 없습니다. 보유한 컨텍스트(사용자 입력 정보, 학습 데이터)를 기반으로만 응답을 생성할 수 있습니다. 웹 브라우징 기능과 사실 정확도 향상은 현재 진행 중인 연구 분야로, WebGPT에 대한 블로그 게시물에서 자세히 알아볼 수 있습니다.

ChatGPT는 과학이나 인문학의 복잡한 문제에서는 잘 작동하지 않을 수 있으며, 수학적 및 계산 능력에 한계가 있습니다. 또한 ChatGPT는 공개, 온라인 담화 또는 학습 데이터에 자주 등장하지 않는 주제에 대해서도 잘 작동하지 않을 수 있습니다. 이 모델은 자신감 있고 합리적으로 보이는 답변을 제공하는 것처럼 보이지만, 이러한 한계를 분명히 염두해야 합니다.

유해한 콘텐츠, 편견 및 고정관념 (Harmful content, biases and stereotypes)

ChatGPT는 유해한 편견과 고정관념을 지속시키는 콘텐츠를 미묘한 방법으로 생성할 수 있습니다. 특정 집단에 대한 편견이나 고정관념이 담긴 묘사를 포함하기도 하는데, 이는 편견을 가르치거나, 배우거나, 다른 방식으로 편견을 강화한다는 맥락에서 해로울 수 있습니다. ChagGPT는 일반적으로 서구의 관점과 사람들을 반영하는 콘텐츠쪽으로 편향되어 있습니다. 한 가지 예로, 이 모델은 영어에서 가장 잘 작동하며, 유해한 콘텐츠를 방지하기 위해 취한 일부 조치는 영어로만 평가되었다는 것입니다. 대화 특성으로 인해 모델과의 상호 작용 과정에서 사용자의 편견과 선호도가 도입되거나 강화될 가능성도 있습니다.

바람직하지 않은 콘텐츠의 생성을 제한하기 위한 조치를 취했지만, ChatGPT는 일부 대상에게 적합하지 않은 결과물을 생성할 수 있으므로 교육자가 어린이와 함께 사용하거나 교실에서 사용할 때는 상기의 내용을 고려해야 합니다.

평가 (Assessment)

평가 목적으로 ChatGPT 사용은 바람직하지 않으며 사용 정책에 위배됩니다. 편견과 부정확성을 내포하고 있으며, 학생이나 교육적 맥락의 전체적인 복잡성을 완전히 파악할 수 없습니다. 따라서 이러한 모델을 사용하여 학생에 대한 결정을 하는 것은 적절하지 않습니다.

과도한 의존 (Overreliance)

AI에 대한 과도한 의존은 다양한 형태로 나타날 수 있습니다. 일반적인 예로는 사용자가 추천이 올바른지 이해하거나 확인하지 않고 AI 추천을 수락하는 것입니다. AI 추천을 검증하려면 고도의 전문 지식이 필요한 경우가 많고, 이는 AI 사용이 학생의 학습을 대체할 수 없는 이유를 분명하게 보여줍니다. AI 시스템을 어떻게, 어디서 사용해야하는 지에 대한 교육이 교육자가 잠재적인 피해를 줄이기 위해 취할 수 있는 핵심 단계입니다.

형평성 및 접근성 (Equity and access)

ChatGPT와 같은 기술이 보편화됨에 따라 학생들이 이러한 도구에 동등하게 접근하고 효과적으로 사용하는 방법을 배우는 것이 중요해졌습니다. ChatGPT는 기존의 불평등, 특히 디지털 격차와 관련된 불평등을 악화시킬 가능성이 있지만, 일부 이러한 불평등을 해소할 수 있는 기회도 제공합니다. 예를 들어, 글쓰기에 어려움을 겪거나 영어가 제2외국어인 학생의 경우, ChatGPT는 맞춤법 오류를 줄이고 의사소통을 개선시키는데 도움이 될 수 있습니다.

그러나 ChatGPT 모델의 이질적인 성능(편향성, 다른 언어의 성능, 비 서구적 관점 포함)문제는 학생들에 대한 공평한 결과에 부정적인 영향을 미칠 수 있습니다. 또한 ChatGPT와 관련된 비용 및 지리적 접근의 제한은 학생과 교육자의 접근성에 영향을 미칠 수 있습니다.

직업적 기회와 전망 (Job opportunities and outlooks)

AI는 학생들의 삶과 미래에 다면적으로 영향을 미치며 전 세계으로 영향을 미칠 것입니다. 학생들이 선호하는 직업 유형이 달라질 수 있으며, 부정확한 콘텐츠가 확산될 수 있는 AI의 잠재력을 고려하면, 학생들은 정보 출처에 대응해 더 회의적인 태도를 가져야할 필요가 있을 수 있습니다. 이러한 변화에 잘 대처하지 않으면, 불확실한 미래에 직면한 학생들에게 새로운 난관으로 다가 올 수 있습니다. 교육자들은 학생들이 이러한 의문점들을 잘 해결해나갈 수 있도록 도와야 합니다.

저희는 언어 모델, 특히 AI의 경제적 영향 일반적으로는 불확실하다고 생각합니다. 현재까지 생산성 향상으로 인한 직업 변화, 직업대체, 직업 창출 등의 사례를 보았지만 장기적,단기적으로 모두 AI 만의 순 효과(net effects)는 불분명합니다. 이러한 영향을 더욱 정확하게 예측하고 정책을 통한 건설적 형성을 위한 노력이 중요합니다. 이러한 주제에 대해 더 많은 내용을 발표할 계획이지만, 저희는 현재로서는 미래의 노동 수요를 예측할 수 있는 능력에 관해서는 겸손한 태도를 가지기를 제안하는 바입니다. 다행히도 교육의 많은 목표(예: 비판적 사고력 함양)는 특정 직업에 대한 준비와는 관련이 없습니다. 저희는 다양한 교육적 개입의 비경제적 효과에 대한 연구로의 더 많은 투자를 권장합니다.

ChatGPT 사용 공개(Disclosing the use of ChatGPT

당사는 학생들이 자신의 ChatGPT 사용 내역을 내보내고 교육자와 공유할 수 있는 기능을 개발 중입니다. 현재는 타사 브라우저 확장 프로그램을 통해 이 작업이 가능합니다.

교육자 또한 학습 자료를 생성할 때 ChatGPT의 사용여부를 공개해야 하며, 과제나 활동에 ChatGPT 사용을 사용할 때 학생들에게도 그렇게 하도록 요청해야 합니다.

학생은 아래와 같이 Bibtex 형식으로 ChatGPT 사용을 인용할 수 있습니다:

교육자 의견 수렴 (Educator input)

저희는 교육자들과 소통하며 교실에서 무엇을 보고 있는지 파악하며 ChatGPT의 기능과 한계에 대해 논의하고 있습니다. 본사가 있는 미국의 교육자들을 중심으로 활동을 시작하고 있으며, 배워나가며 지원 범위를 계속 넓혀나갈 것입니다.

교사, 관리자, 학부모, 학생, 교육 서비스 제공업체를 포함하되 이에 국한되지 않고 이러한 문제의 영향을 받는 분들의 추가적인 관점도 환영합니다. 이러한 노력의 일환으로, 교육자 및 다른 분들께서 피드백 양식 에 대한 의견은 물론, 개발 중이거나 도움이 될 만한 리소스(예: 강의 가이드라인, 명예 규 및 정책 업데이트, 대화형 도구, AI 리터러시 프로그램 등)를 공유 해 주시기 바랍니다.

감사의 말

본 문서를 작성하는 과정에서 교육자분들에게 피드백을 요청했습니다. 피드백 프로세스에 참여가 OpenAI의 배포 계획이나 OpenAI의 정책 내의 반영을 보증하는 것은 아닙니다.

(Translated by Allie, 번역: 엘리)

글쓴이 : 순수국내파 ‘통역사로 먹고살기’를 출간했습니다. 영어와 한국어로 세상과 세상, 언어와 언어사이의 소통을 도우며 살아갑니다. 전세계와 소통하며 그로인해 확장된 경험을, 국내파로서 영어교육과 학습에 이야기가 누군가에게 도움이 되길 바라며 글을 쓰고 있습니다.

페이스북인스타그램