'이루다 사태'로 불붙은 'AI 윤리' 논쟁..'이로운 AI' 로드맵 나왔다

NIA,공공기관 최초 '인공지능 사업추진 윤리원칙' 제정
문용식 원장 "국가 사업추진시 실행해야 할 원칙·기준 담아"

(서울=뉴스1) 박정양 기자 = #.지난해 12월 인공지능(AI) '챗봇 이루다'는 출시 2주만에 80만명의 이용자를 모았지만 성소수자와 장애인 등 사회적 약자에 대한 혐오 발언으로 AI윤리 논란의 중심에 섰다. 개인정정보보호 위반 논란까지 겹쳐 이루다는 결국 출시 한달도 안돼 서비스가 종료됐다.

세계 최대 전자상거래업체인 아마존은 지난 2014년부터 AI를 활용한 채용 프로그램을 비밀리에 개발해 오다 5년만인 2018년 자체 폐기했다. 이력서에 '여성'이라는 단어가 들어가 있으면 AI가 채용 대상에서 배제한 게 뒤늦게 드러나면서다. AI가 남성 우위인 IT업계의 '민낯'을 그대로 학습한 탓이다.

지난 2015년 아프리카계 미국인 재키 앨신은 자신의 흑인 여성 친구 사진을 찍어 구글 포토에 올리자 '고릴라'라는 태그가 붙었다. AI가 흑인을 고릴라로 학습해 분류한 것이다.

AI가 사회에 미치는 영향력이 점차 커지면서 AI 윤리에 대한 사회적 관심도 점차 높아지고 있다. 특히 디지털 전환이 가속화되는 기술 환경의 급변속에 AI 윤리는 선택이 아닌 필수의 영역으로 떠오르고 있고 이를 위한 사회적 합의에 대한 필요성이 그 어느 때보다 높아지고 있다.

정부 대응도 속도를 내고 있다. 정부는 최근 2년간 3차례에 걸쳐 AI윤리 원칙을 내놓았다. 개인정보보호위원회는 지난 5월 AI 관련 개인정보보호 6대 원칙(적법성, 안전성, 투명성, 참여성, 책임성, 공정성)을 발표했고 과학기술정보통신부는 지난해 12월 사람이 중심이 되는 AI윤리 기준을 내놨다. 또 방송통신위원회는 2019년 11월 이용자 중심의 지능정보사회를 위한 원칙을 발표했다.

하지만 이들 대부분은 추상적 의미에 그쳐 실제 정부가 공공사업을 추진할 때 지켜야 할 윤리원칙은 부족했다. AI 기반의 제품 및 서비스를 기획·개발·상용화하는 사업이 활성화되고 있지만 실제 사업추진 현장에서 활용 가능한 원칙이 부재해 혼선을 빚었다. 특히 공적 영역에서 AI의 부작용 우려는 더하다. 가령 맞춤형 정부서비스 제공에 있어 알고리즘 학습데이터가 성별이나 지역, 정치적 편향성을 갖고 있다면 사회적 후폭풍이 만만치 않다.

이에 국내 공공기관 최초로 AI 사업추진 윤리 원칙이 제정돼 관심을 끌고 있다.

한국지능정보사회진흥원(NIA)이 제정해 지난 6일 발표한 '국가 인공지능 사업추진 윤리원칙'은 정부가 인공지능 사업을 추진할 때 지켜할 3단계 원칙을 담고 있다. 3단계는 일반적으로 사업을 할 때 거치는 Δ기획(Plan) Δ실행(Do) Δ확산(See)의 단계다. 각 단계별 총 9가지 윤리원칙을 제시한다.

NIA 관계자는 "AI는 알고리즘 설계 및 개발 과정에서부터 중요한 윤리적 기준을 부여해야 한다"며 "그래서 민간의 카카오, 네이버, 삼성, SK 등도 윤리원칙을 발표한 것이다. 개발자가 지켜야 할 AI 윤리원칙, 이용자가 알아야 할 또는 주의해야 할 AI 원칙, 정부가 가이드 해야 할 AI 윤리원칙 등이다. 그러나 가장 중요한 것은 모든 사회 구성원들이 공통적으로 공감하고, 쉽게 이해할 수 있는 윤리적 규범이 필요하다"고 말했다.

우선 AI 사업기획을 위한 윤리원칙에는 Δ공정하고 합리적인 인공지능 법제도 기반을 마련하고, 위험요소를 선제적으로 파악해 장기적인 비전과 실행과제를 제안한다 Δ인공지능 사업을 기획하고 정책을 개발할 때 인간에게 이로운 인공지능의 활용을 최우선으로 한다 Δ사업과 정책을 발굴하는 과정에서 산·학·연·관 전문가와 일반시민 등 이해관계자의 의견을 적극 수렴한다는 내용을 담았다.

AI사업실행을 위한 윤리원칙에는 ΔAI서비스가 인간의 존엄성 보장, 국민의 편익과 행복을 최우선으로 추구하도록 고려한다 Δ경제,사회,문화,정치적 다양성을 보장하고 편향되지 않도록 개발한다 Δ사회보편적 제도와 윤리규범 안에서 개발 활용하며, 오남용을 방지하도록 도덕적 책임과 의무를 다해야 한다는 내용을 포함했다.

또 AI사업확산을 위한 윤리원칙에는 ΔAI 서비스 혜택에서 소외되는 국민이 없도록 교육하고 지원하며, 국제사회와도 활발히 협력해야한다 Δ인공지능 사업추진 결과물이 사회, 경제, 일상생활 등에 미치는 사회적 영향력을 고려해 사업개선에 반영한다 Δ인공지능 사업성과가 창출한 경제사회적 가치가 널리 공유되어 모든 국민에게 고르게 혜택이 돌아가도록 해야 한다고 명시했다.

이들 원칙들은 기존 나왔던 원칙들보다 더 들어가 실제 현장에서 활용 가능한 원칙이라는 점에서 의미가 있다고 NIA측은 설명했다.

문용식 NIA 원장은 "무엇보다 이번에 제시한 윤리원칙이 의미 있는 것은 추상적이기보다 실제 사업추진에서 실행해야 할 원칙과 기준이라는 것"이라며 "이를 계기로 국가나 공공의 사업에 참여하는 다양한 주체들이 기본적인 윤리적 의식하에서 국민에게 이로운 인공지능 서비스를 개발하기를 바란다"고 강조했다.

한국지능정보사회진흥원(NIA)은 'NIA 국가 인공지능 사업추진 윤리원칙'을 제정했다고 6일 밝혔다. (한국지능정보사회진흥원 제공) 2021.09.06 /뉴스1

pjy1@news1.kr