[기고]카리브디스의 소용돌이와 개인정보 패러독스

이해원 강원대학교 로스쿨 교수. /사진=본인제공

트로이 전쟁을 끝내고 이타카로 귀환하던 오디세우스는 메시나 해협에서 진퇴양난의 위기에 처한다. 한쪽 절벽에는 선원들을 낚아채는 괴물 '스킬라'가 반대편 바다에는 배 전체를 집어삼키는 소용돌이 '카리브디스'가 도사리고 있었다. 오늘날 AI(인공지능)가 직면한 정확성의 역설은 오디세우스 신화의 현대적 재현이다. AI가 부정확한 정보를 생성하면 '환각(hallucination)'에 의한 명예훼손 책임을, 너무 정확한 정보를 만들어내면 개인정보 침해 책임을 질 위험이 있다.

AI의 정확성은 학습 데이터의 양과 질에 비례한다. 현행법상 개인정보 개념이 워낙 넓어 현실적으로 학습 데이터의 상당수는 필연적으로 개인정보다. 하지만 학습이 끝난 AI 모델에는 개인정보가 남아있지 않다. 문장을 학습한 AI 모델은 해당 텍스트 자체를 저장하지 않는다. 이미지 역시 마찬가지다. 학습을 마친 AI 모델에는 단 한 장의 사진도 남아있지 않다. AI 모델 내부에서 학습 데이터는 입력과 출력 사이의 관계를 표현한 수 조 개의 숫자가 나열된 행렬로 남을 뿐이다. 그런데 개인정보보호법은 개인정보를 쉽게 검색할 수 있도록 체계적으로 배열·구성한 개인정보의 집합물인 개인정보파일을 규제 대상으로 삼는다. 과연 수조 개의 숫자를 개인정보파일이라고 볼 수 있을까. 적어도 이 질문에 대한 공학적 답변은 '아니오'일 것이다.

AI가 답변을 생성하는 과정 역시 저장된 데이터의 검색이 아니다. 텍스트 생성은 학습 결과를 토대로 다음에 올 가장 확률 높은 단어를 반복 계산하는 자기회귀의 산물이며, 이미지의 경우에도 노이즈로 가득찬 무작위 이미지에서 불필요한 성분을 제거해 나가는 확률적 수치 연산의 반복일 뿐이다. 설령 AI가 특정인의 개인정보를 언급하더라도 이는 저장된 정보를 출력한 것이 아니라 학습 결과물인 가중치들이 상호작용한 결과로 만들어진 일종의 확률적 신기루다. 존재하지도 않는 데이터를 확률적으로 조립한 결과물이 개인정보파일이라고 보기에는 무리가 있다.

요컨대 학습 데이터의 수집 및 처리의 적법 여부는 별론으로 해도 학습을 마친 AI 모델이 개인정보 보호법의 규율 대상인지는 논란의 여지가 있는 것이다.

최근 유럽연합(EU)는 규범적 가드레일을 더욱 높이고 있다. 설령 AI 모델이 개인정보를 저장하지 않는다 하더라도 결과물에서 개인정보가 재현되거나 추출될 가능성이 조금이라도 있다면 AI 모델 자체를 유럽 개인정보보호법(GDPR)의 규제 대상으로 삼겠다는 것이다. 하지만 우리가 EU 모델을 맹종할 이유는 없다. EU의 AI 규제는 독자적인 모델을 보유하지 못한 상황에서 미국 빅테크 기업을 견제하려는 성격이 짙기 때문이다. 반면 우리는 이른바 '독파모(독립 파운데이션 모델)' 프로젝트를 통해 자체적인 AI 생태계, 나아가 소버린 AI를 추구하는 전 세계 몇 안 되는 국가다. 전략적 공격자인 대한민국이 EU의 방어적 규제 논리를 계수하는 것은 앞뒤가 맞지 않는다. 우리 현실에 맞는 유연하고 탄력적인 규제 설계가 필요하다.

오디세우스는 배 전체를 삼키는 카리브디스의 소용돌이를 피하기 위해 부하 6명을 희생하더라도 스킬라의 절벽 쪽으로 배를 바짝 붙이는 결단을 내렸다. 우리 역시 프라이버시나 개인정보 보호를 지나치게 강조하다가 AI 산업 전체를 수몰시키는 우를 범해서는 안 될 것이다.

이해원 강원대학교 로스쿨 교수
[내 주식이 궁금할땐 머니투데이]