[아침을 열며] 인공지능 남용과 학문의 윤리적 위기

언론학계 AI 남용 논문 게재 사건 발칵
학술적 윤리 가이드라인 새로 정립해야

생성형 인공지능(AI) 활용이 일반화되면서 주변에서 새롭게 나타나는 현상에 대해서 논의해 보고자 합니다.

최근에 일어난 충격적인 사건을 언급하자면 언론 관련 학회지에서 최근 논문을 발간했는데 AI를 남용한 논문이 뒤늦게 발견되었습니다.

구체적으로 논문에서 인용한 참고문헌 중 일부가 허위 논문으로 드러나면서 논문이 취소될 가능성이 높아졌습니다. 이러한 사례는 논문 심사 시스템 전체를 공격하는 경우로서 저자는 반드시 실존하는 논문을 검토하고 이를 인용해 창작적 아이디어를 저술한다는 원칙을 어긴 것입니다.

그래서 학문 공동체 전체는 AI를 무차별적으로 남용하는 것에 대해 경각심을 가지고 윤리기준 강화 등 대책 마련에 동분서주하고 있습니다.

인간과 생성형 AI가 공존하면서 협업해야 하지만, 인간이 전담하던 창작과 논문 작성을 AI가 부분적으로 혹은 전적으로 대체하는 경향은 더욱 강화될 것으로 보입니다.

이와 비슷한 일은 대학에서도 빈번하게 나타나고 있습니다. 학부 수업에서 학생들이 제출한 보고서를 양적으로 점수를 매기는 일은 사실상 불가능해졌습니다.

그 이유는 학생들이 빈번하게 AI를 활용하고 있으며 AI 활용 여부를 측정하지 못하기 때문입니다. 또한, 대학원의 논문계획서 및 논문을 심사할 때 대학원생이 제출한 논문과 참고문헌에서 유령 논문이거나 전혀 연관 없는 논문이 발견되면서 해당 학생의 논문 심사 과정이 정지되는 경우가 심심치 않게 발생하고 있습니다.

앞으로는 교육 영역에서 고등학교와 대학원 박사 과정에 이르기까지 AI 활용방법과 학술적 윤리 가이드라인을 새롭게 정립해야 할 필요성이 높아지고 있습니다.

첫째, AI를 활용해 인간과 AI가 협업하지만, 최종 결과물에 대해 인간이 궁극적이고 전적인 책임을 진다는 점입니다. 만약 자율주행 자동차가 자율주행을 할 때 만에 하나 사고가 난다면 운전하는 인간의 최종 책임을 면하기 어렵습니다. AI가 인간을 완전히 대체할 수는 없다는 점이 점차 명확해지고 있습니다.

둘째, AI가 만들어내는 수많은 지식과 정보는 사실(fact)에 근접할 뿐 사실과 동일한 것은 아니라는 점입니다. AI가 하는 작업 중에서 자료 검색과 기존 논문을 요약하는 기능은 매우 훌륭한 것으로 보입니다.

그렇지만, AI가 제공하는 지식과 정보를 창작 논문에 활용할 때, 다시 말해서 AI의 추론과 반추, 창작적 아이디어 제안에 대해서는 꼼꼼한 체크가 필요합니다. 그래서 앞으로 교육기관들은 AI가 만들어내는 유령 정보나 환각(할루시네이션)을 직접 체크하고 교정하는 작업을 교육과정에 반드시 포함해야 할 것입니다.

셋째, 현업 숙련자와 학생 간 AI를 활용하는 격차를 극복하기 위한 교육적 커리큘럼이 필요합니다. 변호사나 교수 등 전문가들이 AI를 활용하는 경우를 보면 AI를 활용해 판례를 찾는다든지, 관심 논문을 검색하는 작업으로 효율을 높이고 부분적으로 업무 역량을 확대할 수 있습니다. 숙련자들은 AI가 제공하는 거짓 정보나 환각을 체크하면서 취사선택할 수 있기 때문입니다.

그렇지만, 고등학생과 대학생 수준에서는 AI가 제공하는 지식과 정보를 일방적으로 받아들일 뿐 환각과 거짓 정보를 걸러낼 능력을 갖추지 못하면 AI의 남용과 직업윤리 위반에 직면할 수 있습니다.

/이건혁 국립창원대학교 미디어커뮤니케이션학과 교수