[fn광장] 인간과 자연을 위한 AI 윤리교육

새해에는 인공지능(AI) 시대를 윤리적으로 뒷받침하기 위해 산·학·관이 공동으로 풀어야 할 숙제가 쌓여 있다. 지난해 12월 22일 초당적으로 운영되는 국회 미래정책연구회가 주관한 대한민국 인공지능포럼 온라인 출범식에 참석, "인간뿐만 아니라 자연에도 이익이 되도록 AI를 개발하고 활용하자"는 축사를 했다.

다음날인 12월 23일에 대통령직속 4차산업혁명위원회는 과학기술정보통신부가 마련한 인간 중심 3대 기본원칙과 10대 핵심요건으로 구성된 한국판 AI 윤리기준을 심의하고 의결했다. 한국판 AI 윤리기준은 AI 개발과 활용에서 인간의 존엄성 원칙, 사회의 공공선 원칙, 합목적성 원칙 등 3대 원칙을 세웠다. 10가지 핵심요건은 인권보장, 프라이버시 보호, 다양성 존중, 침해금지, 공공성, 연대성, 데이터 관리, 책임성, 안전성, 투명성 등이다.

경제협력개발기구(OECD)는 인권과 민주적 가치를 존중하는 AI를 장려하기 위해 2019년 5월에 AI 원칙을 채택했고, 이를 기반으로 같은 해 6월에 바로 G20이 인간 중심의 AI 원칙을 채택했다. 주요 20개국(G20)과 한국 정부가 인간 중심의 AI 윤리기준을 제정할 때 근간으로 활용된 OECD가 제정한 AI 원칙은 아래와 같이 다섯 가지다.

첫째, AI는 포용적 성장, 지속 가능한 개발과 웰빙을 추진함으로써 사람과 지구에 이로움을 가져와야 한다. 둘째, AI 시스템은 법치, 인권, 민주적 가치와 다양성을 존중하는 방식으로 설계돼야 하며, 공정하고 공정한 사회를 보장하기 위해 필요한 경우 인간의 개입을 가능케 하는 적절한 보호장치를 포함해야 한다. 셋째, 사람들이 AI 기반 성과를 이해하고 이에 도전할 수 있도록 AI 시스템에 대한 투명성과 책임 있는 공개가 있어야 한다. 넷째, AI 시스템은 수명주기 내내 견고하며 안전하고 안전한 방식으로 작동해야 하며 잠재적 위험을 지속적으로 평가하고 관리해야 한다. 다섯째, AI 시스템을 개발·배포 또는 운영하는 조직과 개인은 위의 원칙에 따라 적절한 기능에 대해 책임을 져야 한다.

과학기술이 빠르게 진화하는 AI 분야에서 윤리기준이 제대로 작동되려면 AI 개발자와 AI 활용자가 신뢰할 수 있는 혁신적 교육이 필요하다. 특히 AI 기술이 오용되기 쉬운 개인정보 보호와 디지털 보안 위험관리 영역에서 실용성과 유연성이 있게 AI 원칙 준수가 실질적으로 이뤄질 수 있게 AI 윤리교육이 필요하다.

2021년 새해에 산·학·관이 협업해 AI 윤리교육을 체계적으로 실천해 인간은 물론 자연에도 이로운 AI가 개발되고 활용될 수 있도록 뒷받침할 필요가 있다. 구체적으로 첫째, 학교교육은 물론 기업교육을 비롯한 사회교육에서도 AI 윤리교육을 촉진하자. 둘째, AI 윤리에 관한 교육 내용·방법, 평가방법을 공유할 수 있는 디지털 인프라 구축을 통해 접근 가능한 AI 윤리교육 생태계를 조성하자. 셋째, 신뢰할 수 있는 AI 윤리교육을 널리 보급할 수 있도록 정책적으로 도와주자. 넷째, 근로자들이 AI 윤리를 습득하고 공정하게 실천할 수 있도록 학습자를 지원하자. 다섯째, AI 윤리교육 발전을 위해 공공부문과 민간부문을 초월해 협력하자.

OECD가 AI는 인간과 지구에 모두 이롭게 작동해야 한다고 천명한 것에 주목해 인천재능대는 AI 윤리교육을 강화하기 위해 학생들이 교양강좌로 이수할 수 있도록 2021년부터 '미래사회와 인공지능과 윤리'를 신설한다. AI 윤리교육을 학교교육에만 맡겨둘 것이 아니라 공무원교육, 기업교육, 과학기술교육 분야에서도 실시할 필요가 있다.

권대봉 인천재능대 총장, 고려대 명예교수

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지