[기고] '이루다'가 쏘아올린 '작지 않은' 공(公)

박외진 아크릴 대표이사
사람과 비슷한 AI, 공생 위한 윤리·도덕 요구받아
기술과 사회적기준 사이서 '논란'의 중심이 된 이루다
"실패와 도전을 공공의 선으로 전환시키는 작업 필요"

[박외진 아크릴 대표이사] “(반갑게)안녕, 꼬마야, 안녕~ 무슨 단어 배운 거 없니?” “이봐(Hey). 무슨 일이야, 개자식아(what‘s up, fu*k mother)” A: (당황하며)어디서 그런 말 배웠어 ?”

2015년에 남아공 출신의 영화 감독인 닐 블롬캠프이 발표한 SF 영화 ‘채피(Chappie)’의 한 장면이다. 채피는 영화속에서 ‘최고의 인공지능’을 개발했다고 주장하는 한 엔지니어의 욕망에 의해 강제로 해당 인공지능을 갖게 된다. 안타깝게도 처음 지능 훈련을 담당하는 인간들은 갱스터들이였고, 욕설부터 배우게 된다.

영화를 보는 관객들에게는 인공지능의 본질(데이터-훈련-지능화)에 대해 알게 해주는 유머 그 이상도 이하도 아니였을 것으로 보인다. 적어도 당시 채피의 훈련 과정에 대한 사회적 논란은 지금과 비교되지 않았다. 바로 ‘이루다’ 이야기다.

박외진 아크릴 대표이사.

전통적 SW와는 완전히 다른 인공지능

‘고품질 대화 지능’ 개발을 위해 어떤 기술이 필요한지를 알아가는 과정은 그동안의 실패와 논란에 기반하고 있다.구글, 페이스북에서 발표했던 인공지능의 인종 편향성 문제는 심심치 않게 언론을 통해 보도돼 왔다. ‘트롤리 딜레마’로 대변되는 자율 주행 인공지능의 윤리적·도덕적·책임문제도 사회적 합의를 요구하고 있다.

2016년에 인종 및성차별 데이터로 훈련 과정이 오염돼 16시간만에 서비스를 종료할 수 밖에 없었던 마이크로소프트(MS)의 채팅봇 ‘테이(Tay)’는 이번 이루다 사태를 통해 계속 소환되고 있는 ‘살아있는 추억’이다.

딥러닝 석학인 앤드류 응 스탠포드대 교수도 지난 6월 한 기고문에서 인종 차별 문제가 인공지능 커뮤니티속에도 존재하고 있고, 이런 문제가 인공지능 편향성 문제에 연결되고 있다고 지적한 바 있다.

인공지능은 ‘사회속에서의 인간과의 공생(symbiosis)’을 위해 인간에게만 적용돼 왔던 윤리적, 도덕적 규범 준수를 요구받게 된 것이다. 이는 인공지능이 전통적 소프트웨어들은 감히 상상할 없었던 ‘차별화된 사회적 지위를 취득’하는 것이 가능하다는 것에 우리 모두의 동의가 시작됐다는 것을 반증한다.

이루다가 이루고 싶었던 것과 대중의 기대 사이

이렇듯 인공지능은 본질적인 지능 고도화의 숙명과 함께, 사회적 공생을 위한 다양한 기술, 문화, 제도적 의무도 같이 고려해야 하는 시대가 됐다. 미(美)과학기술위원회(NTSC)가 2019년에 발간한 ‘국가 인공지능 연구 개발 전략 계획’보고서에서도 인공지능의 △공정성 △책임성 △투명성에 대해 강조하고 있으며, 훈련 데이터 수집 및 활용 과정에서의 개인 정보 보호 역시 중요하게 언급하고 있다.

국내에서도 지난 12월에 대통령 직속 4차산업혁명위원회 전체 회의를 통해 인간의 존엄성, 사회적 공공선, 기술의 합목적성의 3대 원칙을 골자로 하는 ‘인공지능 윤리 기준’이 발표됐다.

안타까운 점은 ‘사람을 초월하는 오픈 대화 지능’을 목표로 개발중인 이루다의 원대한 꿈과 대중의 기대 사이에는, 인공지능에 대한 이러한 시대적 요구 사항이 채워져 있지 못했다는 것이다.

(사진= 픽사베이)

이루다에 대한 안타까운 응원과 우리의 숙제

지난 해 이루다가 오픈한다는 소식이 들려왔을 때 마음 속으로 응원했다. 물론 언론을 통해 드러난 개인 정보 활용 관련 시스템의 미비함은 아쉽다. 개인 정보 비식별 처리를 포함한 의혹들이 하루 빨리 해결되길 바란다.

다만 잘못이 있었던 점을 포함해 이루다에게 던져질 많은 질문들이 우리 사회에 공유되고, 같이 해결해 나가야 하는 명제로 인식돼야 한다는 생각이다. 이번 논란은 인공지능 산업계에 출격할 또 다른 이루다들에게 사회적 요구 사항에 대해 선명하게 보여주는 사례이기도 하다.

인공지능 교과서라고 부를만한 ‘인공지능:현대적 접근방식’의 저자인 스튜어트 러셀 UC버클리 교수는 “인공지능의 진짜 위협은 그들이 인간의 명령을 엄격하게 수행할 때”라며, “보편적 인간의 행동을 선이라고 봐야 하며,이런 인간 행동들을 인공지능이 배우게 함으로써 이런 문제에 접근해 나가야 한다”고 강조했다.

이루다는 우리 모두가 생각해야만 하는 ‘작지 않은’ 공을 대중과 정부를 향해 쏘아 올렸다. 이제 이 공을 그대로 낙하시킬지, 한 스타트업의 패기와 실수를 선(善)으로 전환시킬 수 있는 시스템 구상을 시작할 지 결정해야 한다. 이는 공생을 요구하며 ‘도구가 아닌 파트너쉽’의 지위에 도달하고자 하는 인공지능의 본질적 욕망에 대한 중요한 대답의 일부가 될 것이며, 이는 우리 모두의 삶과 연결될 수 밖에 없다.

장영은 (bluerain@edaily.co.kr)