[열린세상] AI 시대의 데이터 정책 방향/고학수 개인정보보호위원회 위원장

인공지능 논의는 곧 데이터 논의로 연결
혁신 독려하되 부작용도 투명하게 노출
국제규범화 국가·기업 주도적 참여해야

고학수 개인정보보호위원회 위원장

지난해 말 챗GPT(대화형 인공지능)가 서비스를 시작한 이후 전 세계적으로 인공지능(AI)에 대한 관심이 크게 늘어난 상태다. 관련 시장 영역에 참여하고 있는 기업들은 기술개발에 더욱 속도를 내고 있다. 기술변화의 빠른 속도를 반영해 비즈니스 생태계 또한 빠르게 변화하고 있다.

챗GPT를 이용한 일종의 응용 서비스인 ‘플러그인’ 서비스는 이미 700개 넘게 제공되고 있는 것으로 알려져 있다. 대기 중인 서비스를 고려하면 앞으로 그 숫자는 계속해 늘어날 전망이다. 이와 함께 이 영역에 대한 규율 체계의 마련이 시급하다는 주장과 문제 제기가 국내외 곳곳에서 나타나고 있기도 하다.

인공지능에 대한 논의는 곧바로 데이터에 대한 논의로 이어진다. 인공지능 기술 개발을 위해서는 유용한 데이터를 확보해 학습 데이터를 구축하는 것이 핵심 관건이기 때문이다. 학습 데이터를 구축한 뒤에도 인공지능 모형을 마련해 가는 과정 그리고 그 후에 서비스를 제공하는 과정의 거의 모든 단계에서 데이터는 성능에 영향을 미치는 주요 요인으로 작동할 수 있다.

인공지능 모형을 마련하고 서비스를 제공하는 각각의 단계에서 세심하게 주의하지 않으면 결과에 편향이나 오류가 나타나게 되는 것을 포함해 부작용이 불거질 가능성도 있다. 또한 개인정보가 부당하게 노출될 가능성이나 개인의 정체성을 왜곡해 제시할 가능성은 챗GPT 유형의 생성형 인공지능과 관련해 특히 주목받는 문제다.

인공지능의 시대적 중요성을 고려할 때 이제 개인정보를 포함해 데이터에 관한 국가적 정책 방향을 정립하기 위한 논의를 본격화해야 한다. 개인정보와 관련해서는 다음과 같은 사항에 관한 고려가 필요하다.

우선 새로운 혁신 활동을 장려해야 한다. 기술 발전은 인류가 풍요로운 삶을 살 수 있게 해준 핵심 원동력이다. 인공지능이 우리의 삶을 더욱 편리하고 풍요롭게 만들어 줄 수 있도록 새로운 혁신적 시도와 도전을 격려하는 태도가 필요하다.

그와 동시에 투명성을 확보하는 것이 중요하다. 기술 발전과 새로운 혁신이 중요하다고 해서 기술이 모든 것을 해결해 준다고 볼 수는 없다. 부작용의 가능성에 대해 명확하고 투명하게 밝히고 최소화하기 위한 지속적인 노력이 필요하다. 사실 인공지능 기술은 결과에 이르는 과정을 포함해 작동 방식에 대해 충분히 밝혀지지 않은 영역이 적지 않다.

인공지능이 사회 각 분야에 어떤 영향을 미칠 것인지에 관해서도 체계화해 이해하기 위한 노력은 아직 부족한 형편이다. 개인정보 처리와 관련해서는 인공지능 학습 데이터 구축, 모형 개발, 서비스 제공 각각의 단계에서 어떤 구체적인 작용이 일어나는지에 관해 좀더 명확한 파악과 정리가 필요하다. 이런 사항들에 대해 상세히 파악하고 지속적인 소통을 통해 투명성을 높이기 위한 노력을 하는 것은 인공지능에 대한 사회적 신뢰를 확보하는 데 중요한 선결 요건이다.

이와 별도로 새로운 시도와 실험 과정에서 나타날 수도 있는 법적 불확실성을 줄여 가기 위한 노력도 중요하다. 새로운 시도가 개인정보 보호를 포함한 기존 법령 위반을 정당화하는 것은 전혀 아니다. 다만 새로운 시도 과정에서 법적 불확실성의 가능성이 보인다면 정책당국과의 협의를 통해 이를 최소화하는 장치를 마련할 필요가 있다.

국내 정책당국은 물론 기업들 또한 국제규범을 만들어 가는 데 적극적인 역할을 해야 한다. 21세기 새로운 국제질서는 인공지능 및 데이터와 결부돼 전개될 것이기 때문에 이와 관련한 국가적 차원의 노력이 특히 중요하다. 우리나라의 국제적 위상에 걸맞게 그리고 미래의 대한민국을 위해 새로운 국제질서 형성에 주도적으로 참여해야 한다.

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -