[청계광장]AI 혁신과 바람직한 개인정보규제

최경진 가천대 법대 교수

챗GPT의 출현으로 초거대AI, 혹은 생성AI를 중심으로 기존 생태계가 재편되거나 이들 AI 혁신을 바탕으로 한 새로운 생태계의 출현도 기대된다. 생성AI가 가져오는 혁신은 불가피하게 기존 질서와 충돌을 야기하게 되고 미래 사회를 선도할 핵심적 경쟁력으로서 생성AI를 어떻게 규율하는 것이 바람직한가의 문제가 새로운 과제로 떠오르고 있다. 대표적 충돌분야가 지식재산권이나 개인정보·프라이버시다. 생성AI의 개발과 활용은 우리 사회가 발전하는 방향과 일치하고 AI의 개발을 위해 개인정보 활용을 허용하는 것은 중요한 이슈다. 그런데 이를 어느 범위까지 허용할지 고민이 필요한 것도 사실이다.

개인정보보호는 국민의 기본적 자유와 권리를 보장하기 위한 안전판 역할을 하기 때문이다. 생성AI가 만들어내는 정보가 누군가를 식별할 수 있는 정보가 된다면 이런 경우에도 개인정보로서 보호할 필요가 있는지, 혹은 AI가 개인정보를 학습하고 누군가와 관계된 정보를 생성하게 된다면 그러한 AI의 처리를 개인정보처리로 봐 규율해야 할 것인지도 문제다. 개인정보보호를 강조하면 AI의 개발이나 활용을 위한 개인정보처리에 대해서도 기존 개인정보법제를 엄격히 적용해야 한다는 주장이 자연스러운 결론이 될 것이다. 그러나 혁신으로서 우리 사회의 변화·발전을 이끄는 핵심요소로 AI의 개발을 촉진하기 위해서는 불가피하게 AI를 위한 개인정보처리를 일정범위까지는 허용할 필요도 있다. 따라서 개인정보보호와 AI를 위한 개인정보처리 사이에서 기존 법제나 생태계와 AI 혁신 사이에 조화가 필요하다.

AI의 발전은 사람에게 많은 편익을 가져다줄 것이지만 그 적용 여하에 따라 기본적 자유와 권리에 위험을 가져올 수도 있다. 생성AI가 인사나 채용, 생명을 다루는 의료서비스 등에 접목될 경우 생성AI가 차별이나 생명·신체에 대한 위험을 야기할 수 있다는 점이 이미 현실화한 경우도 있고 생성AI의 발전에 따라 그러한 위험의 발생은 충분히 예견할 수 있기 때문이다. 생성AI가 아무리 많은 편익을 우리 인간에게 가져다준다고 해도 소수의 경우라도 사람의 생명이나 신체를 훼손하거나 인사나 채용에서 차별당하는 경험이 쌓이면 AI에 대한 신뢰가 무너지고 결과적으로는 AI의 발전에 부정적 영향을 미칠 수밖에 없다.

AI가 가져다주는 사회·경제적 편익의 총합이 위험보다 크다는 이유만으로 AI 혁신만이 선(善)이라는 주장은 정당화하기 어렵다. 따라서 AI의 안정적 발전을 위해서는 AI의 신뢰성을 확보하는 것이 무엇보다 중요하다. 특히 사람의 인격적 이익과 직결된 개인정보 영역에서 AI를 위한 개인정보처리의 신뢰성과 안전성은 AI 발전의 필수불가결한 요소라는 점을 인식해야 한다. 이런 관점에서 개인정보보호나 데이터 프라이버시 규제를 너무 강조하거나 섣부른 규제를 도입하면 AI의 발전에 장애가 될 수 있다.

반면 전 세계가 AI 혁신을 위한 무한경쟁에 뛰어들고 있다. 생성AI를 비롯한 AI 경쟁력은 소수의 선진국이 독점했다. 글로벌 AI 경쟁력을 갖추기 위해서는 AI 혁신을 위한 재료가 되는 개인정보나 데이터 활용을 최대한 보장하는 것이 중요한 과제다. 따라서 충돌할 수 있는 개인정보보호와 활용의 두 가치를 조화해 AI의 안정적인 발전을 뒷받침할 수 있는 최적의 법제도 기반환경을 마련하기 위해 국가적 노력을 기울여야 한다. 즉, AI의 위험성에 비례한 적절한 책임성을 요구하지 않으면 AI에 대한 사람의 신뢰가 무너지고 결국 AI의 발전을 저해하는 악순환이 생길 수 있다. 따라서 AI 시대의 초기단계에서는 AI의 발전을 위해 안전하게 개인정보를 활용할 수 있는 가이드나 자율규제 노력이 함께 이뤄져야 한다. 데이터 프라이버시에 대한 구체적 위험이 유형화함에 따라 그에 상응하는 적절한 수준의 비례적 책임을 법제화해 나가면서 적절한 대응을 해야 한다.

또한 생성AI의 개인정보보호는 전세계 공통이슈이기에 개인정보보호 규제 프레임워크를 조화시키기 위한 국제적인 공동대응이 함께 이뤄져야 한다. 혁신인 생성AI가 사람들의 신뢰 속에 안정적으로 발전하고 우리나라가 글로벌 AI 경쟁력을 갖추도록 개인정보법제가 개인정보처리자를 위한 개인정보처리의 안전항이자 정보주체를 보호하는 안전망으로 발전해가기를 기대한다.

최경진 가천대 법대 교수(한국인공지능법학회장)