[과학에세이] AI 윤리교육은 왜 필요한가?

남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장

과학기술의 발달 속도에 맞춰 사회 변화가 빠르게 일어나는 경우, 기존 법과 질서, 윤리가 그 속도를 쫓아가지 못하는 현상은 인류사에서 흔하게 관측되는 풍경이다. 최근 인공지능(AI)이 빠르게 발전하면서 인공지능 분야에도 이 같은 현상이 나타나고 있다.

출시 두 달 만에 1억 명 사용자를 돌파한 인공지능 챗봇 ‘챗GPT’에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다.

인공지능의 윤리 문제는 앞선 AI 모델들도 피해 가지 못했다. 2015년 구글 포토가 흑인 커플 사진을 ‘고릴라’로 분류해 큰 물의를 일으켜 알고리즘을 수정하는 사건이 있었고, 2016년 마이크로소프트(MS)의 채팅봇 ‘테이’는 악성 사용자들과의 대화로부터 학습한 백인 우월주의 및 여성 혐오를 바탕으로 비윤리적인 대화를 수행해 출시 16시간 만에 운영 중단됐다. 2020년에는 국내 인공지능 스타트업 회사 ‘스캐터랩’이 개발한 AI 챗봇 ‘이루다’는 인공지능과 대화를 하는 혁신적 기술로 주목받았지만 인공지능을 향한 사용자들의 윤리 문제가 있었고, 이를 학습한 ‘이루다’가 약자 혐오 등의 발언을 하는 AI 윤리 문제까지 일어나 출시 20일 만에 서비스를 중단해야 했다.

이처럼 인간과 인공지능 사이의 상호적 윤리문제가 지속적으로 발생함에 따라 인공지능의 윤리적인 개발과 활용 방법을 연구하는 ‘인공지능 윤리’가 나란히 발전해 왔다. 인공지능 윤리는 인공지능의 개발자 제공자 사용자 등 모든 이해관계자가 준수해야 하는 도덕적 규범이자 자율규범으로, 인공지능 사용으로 각종 비윤리적인 행동이나 결과가 발생하지 않도록 사후적으로 방지하는 내용을 말한다.

구글, 마이크로소프트 등 IT 기업을 비롯해 유럽연합, 미국 등에서 평등한, 착한 AI를 위한 윤리 규범 및 가이드라인을 정립해 왔다. 우리나라 역시 2020년 12월 과학기술정보통신부를 필두로 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.

인공지능은 윤리 규정에 맞게 설계되었기에 윤리적 중립을 지켜 차별적이거나 혐오 표현, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다. 그러나 이러한 답변 제한을 교묘하게 우회해서 차별적이거나 폭력적인 답변을 유도하는 ‘탈옥(Jailbreak)’ 혹은 ‘우회(Bypass)’ 방법을 적용하면 이러한 규정이 힘을 쓸 수 없게 된다. 또한 이제까지 출시된 AI 중 가장 지능화된 ‘챗GPT’의 파급력은 표절, 저작권 침해, 범죄 이용 등 악용사례 속출로도 이어져 AI의 윤리적 활용에 대해서도 사회적 논의가 필요하다.

실제 지난달 국내 한 국제학교에서 챗GPT를 활용해 영문 에세이를 제출한 학생들이 0점 처리되는 일이 발생한 것으로 알려졌다. 보고서 과제가 많은 대학가에도 챗GPT를 활용했다는 경험담이 속속 나오고 있다. 이 같은 표절 문제가 교육 현장에 빠르게 확산되는 건 시간문제라는 우려가 나오고 있다. 필연적으로 AI와 공존할 미래 세대에게 AI 윤리 교육이 필요하다는 여론이 강해지고 있는 이유이다. AI의 윤리적 문제들은 AI가 학습할 데이터를 제공하는 사용자의 윤리 의식에서 기인하기 때문이다. 편향적인 윤리의식은 나쁜 AI를 만들고 AI의 악용은 과학기술 발달을 저해한다.

사티아 나델라 마이크로소프트 CEO는 “인공지능이 우리가 일하는 방식을 근본적으로 바꾸고, 생산성 증대의 새로운 물결을 일으킬 것”이라고 강조했다. 이를 증명하듯 많은 기업이 전화 상담 대신 AI 상담을 진행하고 있으며, 현재 가장 인기 있는 인공지능 챗GPT는 학습에서 마케팅까지 전방위적으로 쓰이고 있다.

인공지능과 함께하는 시대적 흐름은 거스를 수 없다. 과학기술 발달을 저해하지 않고 윤리문제를 해결하기 위해서는 사용자들이 스스로 인공지능을 책임감 있게 사용할 수 있도록 윤리적 역량을 키워줘야 한다. 단순히 교과서적 윤리 지침을 읊으라는 교육이 아닌 과학의 발달과 상생할 수 있는 윤리 교육이 필요한 때이다.