[열린세상] 인공지능과 개인정보 보호

AI 기술 핵심은 인터넷 공간의 데이터들
수집·활용에 사회 구성원 불안 떨쳐 주며
기업 혁신 장려해야 AI 시대 주도할 것

인공지능은 지속적으로 사회적 관심의 대상이 되고 있다. 국내외의 여러 인공지능 기업이 새로운 혁신의 결과물을 계속 선보이고 있기도 하다. 그런데 새로운 인공지능 모형이 개발되는 과정에 대해 생각해 보면 유용한 학습용 데이터를 구하는 것이 모형 개발에서 핵심 관건임을 어렵지 않게 파악할 수 있다. 어떤 면에선 인공지능이란 데이터를 이용해 최신의 과학기술을 적용한 결과물을 만들어 내는 과정인 것으로 이해할 수도 있다.

유용한 데이터는 흔히 개인정보를 포함하게 되는데 그 경우 데이터의 수집과 활용 과정이 아무래도 조심스러울 수밖에 없다. 데이터, 특히 개인정보의 이용과 관련해 사회적 신뢰를 얻지 못한다면 개발된 기술이 아무리 뛰어난 것이라 하더라도 결국은 사회로부터 외면을 받게 될 것이다.

그렇다면 인공지능 시대에 걸맞은 개인정보 정책은 어떻게 마련돼야 할까? 인공지능 기술이 개발되고 이용되는 과정에서 데이터가 어떤 역할을 하는지 살펴보는 것이 출발점이다. 인공지능 데이터의 수집 및 이용에 관해 가장 넓게는 입력값과 관련된 과정과 결과값과 관련된 과정으로 나누어 파악할 수 있다.

우선 입력값 확보의 첫 단계가 되는 각종 데이터의 수집을 위해서는 인터넷 공간에서 크롤링 등의 방법으로 널리 데이터를 수집하는 방식이나 동의에 기반해 이용자로부터 데이터를 수집하는 방식 등 여러 방식이 적용될 수 있다. 수집된 데이터를 정제하고 학습용 데이터를 구축하는 과정도 이 과정에 포함해 이해할 수 있다. 결과값과 관련해서는 추론 과정을 거쳐 판단을 하거나 새로운 결과물을 만들어 내는 과정을 주로 생각할 수 있다. 이용자가 인공지능에 질문을 하거나 지시를 하는 과정은 결과값을 만들어 내는 과정의 일부로 이해할 수 있는 한편 그 과정에서 수집된 이용자의 데이터는 경우에 따라 새로운 입력값으로 활용될 가능성도 있다. 그런 점에서 이용자의 질문이나 지시는 입력값과 결과값 모두와 관련 있는 것으로 볼 수 있다.

지나칠 정도로 간략하기는 하지만 이렇게 도식화하는 것은 인공지능 모형을 만들어 내고 서비스를 제공하는 과정에서 개인정보 보호와 관련해 어떤 어려움이 있을 수 있는지 파악하는 데 도움이 된다. 우선 데이터의 수집 단계를 보자. 동의에 기반해 이용자의 데이터를 수집하는 방식은 다수의 인공지능 기업에 그다지 효과적인 방법이 되지 못한다. 충분한 분량의 데이터를 확보하기도 어렵고 좋은 품질의 다양한 데이터를 확보하기도 어려운 것이 보통이기 때문이다.

한편 인터넷 공간의 데이터를 확보해 이용하는 경우에는 해당 데이터에 개인정보가 섞여 있을 가능성을 고려해 어떤 조치를 취해야 할 것인지에 대한 새로운 질문이 제기된다. 결과값과 관련해서도 여러 질문이 제기될 수 있다. 가장 기본적인 질문으로는 이용자에게 제시되는 결과값에 제3자의 개인정보가 부적절하게 포함될 가능성에 대비해 어떤 대응책을 마련해야 할지에 관한 것이 있다.

이러한 다양한 질문으로부터 어떻게 적절한 해법을 찾아낼 것인가? 몇 가지의 기본 원칙을 들 수 있다. 첫째, 인공지능을 포함한 신기술이 개발되고 사회에 도입되는 과정에서 사회 구성원들이 느낄 수도 있는 불안감을 최소화해야 할 것이다. 둘째, 기업의 정당한 혁신 활동을 적극 장려하는 사회적 기반을 마련해야 한다. 셋째, 인공지능의 개발과 서비스 과정에서 나타날 수 있는 리스크는 다양한 형태를 띠게 될 것인데, 개별 리스크의 수준에 비례하는 유연한 규범 체계를 구축해야 한다.

이 같은 원칙에서 합리적 규범 체계와 다이내믹한 혁신 생태계를 만들어 낼 수 있는지 여부가 인공지능 시대를 맞이하는 대한민국의 성패를 좌우할 것이다.

고학수 개인정보보호위원회 위원장

고학수 개인정보보호위원회 위원장