[이상직 변호사의 디지털 창세기]〈17〉'왕비의 거울'과 GPT 등 인공지능

이상직 법무법인 태평양 변호사(혁신과 공존의 신세계 디지털 저자)

우리가 잠에서 깨면 먼저 휴대폰을 검색한다.

그림형제 동화에 나오는 왕비는 '진실을 말하는 거울'에게 누가 가장 아름다운지 물으며 하루를 시작한다. 어느 날 거울은 의붓딸 백설공주가 왕비보다 아름답다고 했다. 왕비는 사냥꾼을 시켜 백설공주를 죽이려 했지만 실패한다. 왕비는 독이든 사과를 먹여 그녀를 죽였다. 어느 날 이웃나라 왕자의 호의로 백설공주 목에서 사과가 빠져나오는 바람에 되살아난다.

쉽게 퍼지는 독은 아니었던 모양이다.

왕자와 백설공주의 행복한 결혼식에 초대된 왕비는 체포된다. 빨갛게 달군 쇠로 된 신발을 신는 형벌을 받았고, 뜨거워 미친 듯 춤추다가 죽었다.

그림 작가 이소연 作

왕비의 거울은 범용이 아니다. 여성의 아름다움만 판단하는 특정 용도에만 사용된다. 객관적 기준과 이유없이 아름다움을 판단하는 능력이 있다면 주술·마법에 불과하다. 양질의 데이터를 대량 수집, 분석해서 누가 아름다운지 판단했다면 그건 과학이다. 거울이 생각하는 아름다움의 기준은 무엇일까. 왕비가 살던 시절까지 축적된 과거 데이터에 의존할 것이고, 미래 기준은 고려하기 어렵다. 왕비는 마음이 사악했지만 아름다움의 기준을 정하는 것엔 공정했다. 백설공주 등 다른 여자가 가장 아름다울 수 있는 기준을 용납했기 때문이다. 그렇게 아름다움의 기준이 정해졌다고 하자. 다음은 거울이 데이터를 어떻게 수집했는지에 관한 것이다. 거울의 데이터는 왕비와 그녀의 측근, 외부 용역업체, 전문가 등이 수집해서 제공했을 것 같다. 거울은 백설공주가 가장 아름답다는 분석 결과를 내놓았는데 어떻게 객관성·중립성을 확보하고 편향성을 제거했는지는 알기 어렵다. 만약 거울의 데이터 수집과 분석이 잘못되었다면 왕비는 결백한(아름답지 않은) 사람을 죽이고 자기도 고통스럽게 죽는 결과를 초래한 것이 된다. 거울의 잘못된 판단을 사주한 제3의 배후가 있는지와 관계없이 그 책임은 오로지 왕비에게 있다.

거울이 아름다움을 판단하는 객관적 기준을 마련하고, 비교 대상이 되는 여자들의 얼굴 등 정보를 수집·분석했다면 문제는 없을까. 그녀들의 동의를 얻지 않고 얼굴 정보를 수집했다면 초상권 침해가 된다. 그녀들의 얼굴과 외모를 보고 순위를 매긴 것은 명예훼손, 모욕 또는 인격권 침해가 된다. 얼굴 등 정보와 그들이 어디에 거주하는지 등에 관한 정보는 개인정보이기 때문에 이 정보의 수집·이용은 개인정보보호법을 침해한다. 판단 결과에 허위 또는 조작이 있다면 가짜뉴스가 된다.

GPT 등 대화형 인공지능(AI)을 검색, 창작, 문서, 이미지, 동영상 자료 작성 등을 위해 이용할 수 있다. 이를 토대로 영어회화, 채팅 등 다양한 애플리케이션 서비스가 출시되고 있다. 왕비의 거울과 같은 문제는 없을까. AI는 사람이 예측하지 못한 고도의 분석 결과를 서비스로 내놓기 위해 엄청난 분량의 데이터를 요구한다. 그 데이터는 저작권, 특허권, 영업비밀, 개인정보, 사생활, 국가안보로 보호받는 것일 수 있다. 그것이 포기될 수 없는 핵심 정보라면 수집 자체가 금지될 수 있다. 동의, 보상 등 합법적 절차를 거친 데이터만을 AI 학습용 데이터로 쓸 수 있다. AI 알고리즘이 데이터의 결합, 분해, 재결합 등 물리·화학적 과정을 거쳐 최초 수집된 데이터가 어떤 것인지 알 수 없도록 하면 문제 되지 않는 것일까. 그렇지 않다. 누가 영화배우 정우성의 얼굴과 필자의 얼굴 이미지를 결합해서 정우성이나 필자로는 전혀 보이지 않는 새로운 미남 얼굴을 창출했다면 어떨까. 정우성과 필자는 얼굴 이미지를 원자재로 제공한 것이 되는데 당연히 보상받아야 하지 않을까. 최소한 동의를 구했어야 하지 않을까. 사람과 AI가 공존하려면 활용과 보상을 위한 선순환 시스템을 어떻게 구축할 것인지 먼저 고민해야 한다.

이상직 법무법인 태평양 변호사('혁신과 공존의 신세계 디지털' 저자) sangjik.lee@bkl.co.kr