[기고] AI 시대 개인정보보호 국제규범, 한국도 적극 참여해야

몇 해 전 손정의 소프트뱅크 회장이 한국을 방문하여 한국 정·재계 인사를 만난 자리에서 이런 말을 남겼다. 첫째도 AI, 둘째도 AI, 셋째도 AI. 당시 개인정보보호법은 시민단체의 반대 여론으로 지지부진했던 상황. 하지만 이 발언은 개인정보보호법을 포함한 데이터 3법 개정의 중요한 외부 자극이 됐다. 당시 행정안전부 전자정부국장으로서 법 통과를 위해 노력했던 필자는 그 순간을 기억한다.

손 회장의 예상대로 현재 AI는 IT 분야를 넘어서 의약, 법률, 교육, 음악, 예술 등 과거 인간의 고유 영역으로 여겨졌던 전문 분야로까지 확대되어 인류의 삶에 유토피아적인 희망을 가져오고 있다. 반면 AI가 가짜 뉴스를 생성하는 등 정치, 국제정세, 경제, 주식·금융 시장을 포함한 여러 영역에 부정적인 영향도 미치고 있다. 최근 오픈AI 최고경영자인 샘 올트먼의 거취와 관련된 해프닝은 AI의 미래 전망과 관련한 극단적인 대립적 견해를 보여주는 사례다.

AI와 관련된 많은 이슈 중 최근 가장 주목을 받고 있는 것이 단연 저작권과 개인정보보호 관련 이슈이다. 저작권 이슈도 인터넷에 공개된 자료를 AI가 학습에 활용하는 과정에서 발생하는 것으로 이는 개인정보보호 문제와 깊은 관련을 가지고 있다.

AI 학습 과정에서 활용되는 데이터의 대부분은 개인정보를 가명 처리해서 사용하는 가명 정보이다. 특히 무작위로 방대한 양의 공개된 데이터를 수집해 학습하는 과정에서 개인정보의 재식별(Reidentification) 가능성이 높아진 점도 간과할 수 없는 현실이다. 이러한 개인정보 재식별 위험의 효율적 제거를 위해서 개인정보보호강화기술(PET, Privacy Enhancement Technology) 등의 적용을 위한 새로운 기준과 원칙들이 필요한 상황이다.

기존의 개인정보보호 원칙인 목적의 구체성·제한성, 데이터 최소 수집, 정보 공개, 투명성 등의 원칙들이 AI 시대에 어떻게 유지되고 변화될 것인가. 그리고 공개된 데이터의 활용 근거로 정당한 이익(Legitimate interest)이란 개념이 계속 유효하게 적용될 것인가의 문제를 해결하기 위해서 세계 개인정보 감독 기구와 관련 이해 관계 집단들이 활발한 논의를 계속해 오고 있다.

지난 10월 버뮤다에서 개최된 GPA(Global Privacy Assembly) 총회에서 2025년도 GPA 총회를 서울에서 개최하기로 결정한 것은 AI 관련 규범을 제정하기 위해 유엔에서 인공지능 고위급 자문기구를 구성한 것과 맞물려 그 의의가 매우 크다 할 것이다.

2차 세계 대전 후의 핵확산금지조약(NPT)과 이에 따른 국제원자력기구(IAEA) 출범이 핵의 국가 주도 통제·관리인 반면 민간 주도의 AI는 개발 주체인 민간 기업, 각국 정부 및 개인정보 감독 기관, 시민 단체 등 여러 이해 관계 집단의 복잡한 상호 협의를 통해서 관련 규범이 형성될 가능성이 높다.

최근 네이버, 삼성전자, KT 등 국내 다수의 기업들이 AI와 대형언어모델(LLM) 서비스 개발을 추진하고 있는 상황에서 대한민국 대표들이 유엔 AI 고위급 자문기구와 세계 개인정보감독기구 회의체 등에 활발히 참석해서 AI 관련 규범 논의와 개인정보보호의 새로운 원칙 확립에 지속적인 역할을 하는 것은 대한민국 국익 차원에서 매우 중요한 것이다. 윤석열 대통령의 디지털 권리장전을 통한 디지털 비전도 AI를 둘러싼 각국의 경쟁이 심화되고 있는 상황에서 AI 관련 새로운 국제질서와 규범 확립에 대한민국이 주도적으로 참여하려는 강력한 의지를 국내외에 천명한 것이다.

유엔 AI 고위급 자문 기구, AI 안전성 미니 정상회의, 글로벌 AI 포럼, 2025년 GPA 서울 총회 등에서 AI 관련 새로운 국제 규범과 개인정보보호 원칙 확립에 대한민국이 적극적으로 참여하여 IT 강국 대한민국의 위상이 AI 시대에도 계속되기를 기대해 본다.