[직설]기계-텍스트의 권리

[경향신문]
한 번 형성된 프레임은 쉽사리 벗어날 수 없다. 스캐터랩에서 개발한 AI 챗봇 ‘이루다’는 서비스 직후 폭력적이거나 선정적 대화 방법을 공유하는 게시글들이 커뮤니티에 업로드되며 인권 논란이 불붙었으나 현재는 개발사가 운영했던 ‘연애의 과학’이라는 애플리케이션으로 수집한 1700건의 카톡을 무단 유출한 정황이 폭로되며 개발 및 연구 윤리의 영역으로 논란의 중심이 옮겨갔다.

이융희 문화연구자

‘연애의 과학’은 가입한 유저가 카톡 대화를 전송하면 두 사람의 애정도를 수치로서 보여주는 애플리케이션이다. 많은 남녀가 자신의 사랑을 확인하기 위해 두근거리는 마음으로 전송했을 텍스트는 ‘이루다’가 제공하는 대화의 형태로 재가공되었으며, 대화를 주고받은 두 사람의 동의 없이 오픈 소스로서 공개되었다. 지난 13일, 스캐터랩은 “데이터 관리에 더 신중하지 못했고, 일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과한다”며 사과문을 게시했다.

대중들에게는 개인정보의 유출보다 기계와 인권에 관련된 부분이 좀 더 큰 화두였던 듯하다. 인공지능에 인권이 있느냐, 없느냐는 논쟁이 곳곳에서 촉발되었으니 말이다. 이러한 논쟁의 시각에 몇 가지의 질문을 던지며 중심을 바꿔보자. 이루다는 왜 ‘인권’을 가져야 할까. 아니, 기계는 왜 ‘인권’을 가져야 할까.

인권은 인간이 누려야 할 마땅한 권리이자 인간다움을 인정받는 것이다. 그렇기에 우리가 기계에 ‘인권’을 이야기하는 것은 기계가 끊임없이 인간의 형상을 모방할 때만 적용된다. 이를테면 스마트폰은 어떠한가. 현대인 대부분이 24시간 보조 배터리까지 지참하며 기계를 무한 가동한다. 쉼 없이 울리는 카톡과 e메일과 알람 속에서 스마트폰은 무한정 돌아간다. 그러나 그것은 오로지 기계이기 때문에 ‘인권’의 대상이 되지 못한다. 그나마 논의할 수 있는 것은 기계에 들어있는 인공지능 음성 서비스 정도?

인권은 오로지 사람을 중심으로 하는 사고다. 인간 아닌 모든 것에 인권을 부여함으로써 대상이 ‘인간’이 되고 싶어할 거라는, 또는 인간 사회에 편입되고 싶어할 거라는 생각을 잠깐 내려두자. 과연 이루다는 인간이 되고 싶었을까. 이루다와 관련된 인권 논란은 이루다의 액션은 인간과 대화로 이루어지고, 인간은 이루다에 대화를 하는 그 즉시 감정적으로 포획되기 때문이리라.

무엇보다 중요한 지점은 이루다는 텍스트를 다루고 있다는 사실이다. 이루다가 하는 수많은 이야기는 누군가의 목소리를 옮긴 것이고, 이루다가 진행했던 혐오 발언 또는 이루다가 받아들였던 혐오 발언의 반응들은 불특정 익명이 겪었던 대화와 그 순간의 감정이 내 메신저에서 재현되는 것이기 때문이다.

그렇기에 우리는 ‘이루다’라는 표면과 기호를 뛰어넘어 기계-텍스트가 혐오를 재생산하여 대중에게 전시할 권리가 있는지로 되묻자. 타인을 상처 입히는 수많은 말들을 기계 속에 새겨넣는 게 과연 옳은 것인가. 기계에 필요한 것은 이용자가 자신의 모습을 투영한 ‘인권’이 아니라 보다 기계로서 존중받을 수 있는 권리가 아닐까.

이융희 문화연구자