'파워 온' 작가 "AI는 불완전…차별과 편견 반영돼 있어"

그래픽노블 출간 기자간담회…"AI 개발 단계부터 윤리적인 질문 포함해야"

(서울=연합뉴스) 김경윤 기자 = "인공지능(AI)은 불완전해요. 인종차별, 성차별, 장애인에 대한 편견, 유색인종 이민자에 대한 편견 등이 컴퓨터 공학자들이 만든 프로그램 코드에 반영돼 있죠."

그래픽노블 '파워 온: 평등하고 공정한 AI 시대를 위하여'의 공동저자 진 J. 류(류진선)는 4일 서울 중구 순화동천에서 출간 기념 방한 기자간담회를 열고 AI의 문제점을 설명하며 이같이 말했다.

'파워 온'은 AI가 자행하는 불평등과 불공정을 발견하고 이를 바꿔나가려는 미국 청소년들의 이야기를 다룬 그래픽 노블이다.

한국계 미국인이자 미국 로스앤젤레스 캘리포니아대(UCLA)에서 교육철학 박사 학위를 받은 교육학자 진 J. 류와 UCLA 교육연구자 제인 마골리스가 함께 썼다.

지난해 미국에서 출간됐으며, 올해 6월 한길사에서 한국어로 번역돼 국내 독자도 만나게 됐다.

우리는 흔히 AI가 인간보다 공평무사할 것으로 기대하지만, 이 책은 실상 AI가 그리 평등하지 않다는 점을 지적한다.

일례로 얼굴 식별 AI의 경우 백인 남성의 오인식 비율은 1%에 미치지 않았지만, 유색인종 여성의 경우 이 비율이 35%까지 올라갔다고 했다.

류 작가는 "이런 소프트웨어를 미국 경찰 교육에서 사용하고 있다"며 "이에 따라 무고한 흑인을 오인해 사살하는 사건도 발생하고 있다"고 언급했다.

또 2016년 마이크로소프트(MS)가 개발한 AI 챗봇이 10대들과 대화한 지 불과 몇시간 만에 인종·성 차별적 발언을 학습하고 끔찍한 메시지를 내뱉은 사례도 풀었다.

AI 프로그램을 만드는 사람이 대부분 백인 남성이며, 이들의 시각이 섞여 들어갈 수밖에 없다는 점을 원인으로 지적했다.

미국에서 IT인력 가운데 여성의 비중은 4분의 1에 불과하고, 그 가운데서도 유색 인종은 한 자릿수에 머문다는 것이다.

그러면서 "이 기술이 누구를 위해, 어떻게, 왜 만들어졌고 누가 이것으로 피해를 보는가와 같은 윤리적인 질문이 AI 프로그램 개발(creation) 과정의 일부가 돼야 한다"고 강조했다.

제목을 '파워 온'이라고 지은 이유에 대해서는 '기계를 켜다'라는 의미와 학습의 힘으로 세상에 '변화를 만들어내다'라는 의미를 동시에 담은 것이라고 설명했다.

이 책은 작가의 상상력이 아닌 최근 5년간 미국 공립학교 학생들과의 인터뷰에 기반해 만들어졌다.

그러면서 향후 학생들을 중심으로 공정한 AI에 대한 논의가 이뤄져야 한다고 봤다.

그는 "이 책을 통해서 10대들이 실제 세계의 문제와 기술이 어떤 관련이 있는지 논의하길 바란다"고 덧붙였다.

heeva@yna.co.kr

▶제보는 카톡 okjebo

문화