개인정보 침해 없애고, AI 생태계는 살린다…AI 데이터 규범 첫 발

개인정보위, '개인정보 활용 정책방향' 발표
AI 단계별 개인정보 처리원칙 제시
'AI 프라이버시팀·사전 적정성 검토제' 도입

고학수 개인정보보호위원회 위원장.

챗GPT 등장 이후 인공지능(AI) 산업이 급성장하고 있다. 하지만 AI를 개발 및 서비스하기 위해 수집하는 데이터에 대한 개인정보 처리 방침은 여전히 불명확하다. 기업은 AI 경쟁에서 뒤처질 것을 우려하고, 서비스를 이용하는 이용자는 개인정보 침해 가능성을 우려한다. 이를 해소하기 위해 정부가 AI 데이터 규범 마련에 나섰다.

개인정보보호위원회는 3일 정부서울청사에서 브리핑을 개최하고 '인공지능 시대 안전한 개인정보 활용 정책방향'을 발표했다. 개인정보 침해 위험은 최소화하면서 AI 혁신 생태계 발전에 꼭 필요한 데이터는 안전하게 활용할 수 있도록 정책 방향을 수립했다. 특히, AI 환경에서 현행 '개인정보 보호법'을 어떻게 해석·적용할 수 있을지에 대한 준칙을 제시하는 한편, 구체적인 세부 사항에 대해서는 향후 정부와 민간이 협력하여 규율체계를 공동 설계해 나가는 청사진을 제시하는 데 중점을 뒀다.

민간 기업 불확실성 해소 위해 'AI 프라이버시팀' 신설

개인정보위는 AI와 관련된 사항을 전담하는 원스톱 창구인 'AI 프라이버시팀'(가칭)을 10월 중 신설한다. AI 모델·서비스를 개발·제공하는 사업자와 소통창구를 마련해 사안별로 개인정보 처리의 적법성, 안전성 등에 대한 법령해석을 지원하거나 규제 샌드박스 적용을 검토하는 등 적극적인 컨설팅 역할을 수행한다. 규제 샌드박스는 기존 규제에도 불구하고 신기술·신산업 시도가 가능하도록 일정 조건(시간, 장소, 규모) 하에서 규제를 면제·유예해주는 제도다.

또 '사전 적정성 검토제'(가칭)도 올해 중 도입한다. 사업자 요청 시 비즈니스 환경을 분석해 '개인정보 보호법'을 준수할 수 있도록 적용방안을 함께 마련한다. 이에 따른 사업자의 이행결과에 대해 개인정보위가 적정하다고 판단한 사안에 대해서는 행정처분을 하지 않는 제도다. 사업자가 신청서를 제출한 시점부터 적용방안 통보까지 원칙적으로 60일 이내에 이루어지도록 해 법적 리스크를 신속하게 줄여나간다는 방침이다.

'인공지능 시대 안전한 개인정보 활용 정책방향' 주요 추진 과제.

AI 개발·서비스 단계별 개인정보 처리기준 구체화

AI 개발·서비스를 위해 데이터를 수집·이용할 때 개인정보를 어떻게 처리해야 하는지에 대해 별도의 기준이 없었다. 이에 개인정보위는 현행 '개인정보 보호법'체계에서 그간의 해석례·의결례·판례 등을 종합했다. 이를 바탕으로 AI 개발·서비스 기획-데이터 수집-AI 학습-서비스 제공 등 단계별로 개인정보를 어떠한 원칙과 기준에 입각 처리할 수 있는지에 대해 최대한 구체화했다.

기획하는 단계에서 개인정보 보호 중심 설계 원칙을 반영한다. 데이터를 수집할 때 개인정보의 처리 원칙을 일반 개인정보, 공개된 정보, 영상정보, 생체인식정보로 나눈다. 대규모 언어모델을 개발하는 경우 ‘공개된 정보’를 부분적으로라도 이용해야 하는 상황이 발생할 수 있는데, 공개된 정보의 처리가 가능한 경우를 체계화했다. 이후 서비스 단계에서는 AI 특성을 고려 구체적인 공개범위 및 방법, 권리행사 방안 등에 대해서는 충분한 검토 이후 가이드라인을 마련할 예정이다.

이번에 발표한 정책방향은 현시점에서의 기초적인 기준과 원칙이다. 이를 바탕으로 실제 현장에서 적용할 수 있도록 민간과 협력해 세부 분야별로 구체화해 나갈 계획이다. AI 기업·개발자, 학계·법조계, 시민단체 등 민·관이 함께 논의할 수 있는 ‘AI 프라이버시 민·관 정책협의회’를 오는 10월 중 구성하고, 추진계획에 따라 분야별 AI 환경에서의 데이터 처리기준 등을 공동으로 작업하여 발표할 예정이다.

개인정보 보호 강화기술(PET)이 활성화될 수 있도록 R&D를 확대하고 관련된 가이드라인 등을 마련하는 한편, PET 적용이 모호하거나 검증이 필요한 경우에는 보안성·안전성이 확보된 ‘개인정보 안심구역'에서 기술개발·실증이 가능하도록 할 계획이다.

AI의 리스크 수준에 따라 차등적인 규제 설계가 가능할 수 있도록 위험성에 대해 구체적으로 판단할 수 있는 ‘AI 리스크 평가모델’도 마련한다. 이러한 위험성 평가체계를 구축하기 위해서는 여러 실험과 시도가 필요한 만큼 ‘규제 샌드박스’를 활용한다. 리스크를 식별·평가할 수 있는 체계를 2025년까지 지속적으로 구축한다.

국제 공조체계 강화

AI에 관한 디지털 국제규범 형성을 위해 글로벌 협력체계도 구축한다. AI는 개발부터 서비스 제공까지 초국가적인 형태로 이루어지는 경우가 많아 개별 국가의 규제만으로는 한계가 있고 국제적으로 공조체계가 필수적이다.

개인정보위는 새로운 차원의 디지털 질서 수립을 선언한 ‘파리 이니셔티브’에 입각해 AI 개인정보 분야 국제규범 마련을 위한 협력체계를 강화해 나갈 계획이다. 지난 6월 서울에서 개최한 'AI와 데이터 프라이버시 국제 컨퍼런스'를 시작으로 주요국 개인정보 감독기구와 함께 각국의 법·정책, 처분 사례 등을 공유하고, AI로 인한 개인정보 침해 이슈 발생 시 신속하게 대응할 수 있도록 한다.

2025년 개인정보 분야 최대 규모의 국제 협의체인 '글로벌 프라이버시 총회(GPA)'를 유치 AI를 중심으로 디지털 심화 시대에 새롭게 대두되는 프라이버시 이슈에 대해 논의할 예정이다. 오픈AI, 구글, 메타 등 글로벌 AI 사업자와 국내 AI 사업자와의 소통도 활성화한다.

고학수 개인정보위 위원장은 "AI는 전 세계, 모든 산업에서 기반 기술로서 역할을 하는 만큼 데이터를 어떻게 안전하게 활용할 수 있을지에 대한 새로운 디지털 질서 정립이 필요한 시점"이라며 "무조건적인 ‘제로 리스크’를 추구하기보다는 프라이버시 침해 최소화를 위한 실천적 노력을 경주하는 것이 더욱 중요하다는 인식 하에, 글로벌 규범을 선도할 수 있는 AI 개인정보 규율체계를 확립해 나가겠다"고 밝혔다.

이승진 기자 promotion2@asiae.co.kr