[2024 신년기획]“기대는 높이고 우려는 줄이고”…개인정보위, AI 프라이버시 정책 구체화

서울 종로구 정부서울청사에서 열린 개인정보보호위원회 전체회의 모습.(개인정보보호위원회 제공)

인공지능(AI) 시대가 도래하면서 기대와 우려가 교차하고 있다. AI가 생산성 향상 등 장밋빛 미래를 그려줄 거라는 기대와 함께 개인정보 침해 등 예기치 못한 새로운 이슈가 급부상했다. 개인정보 관련 통합 감독기구인 개인정보보호위원회는 AI시대에 발맞춰 개인정보 보호 정책을 추진하고 있다.

AI는 우리에게 프라이버시 이슈를 새롭게 던졌다. 생성형 AI의 크롤링(crawling, 데이터 추출), 자율주행차 운행 중 영상 촬영 등 정보주체가 예측하기 어려운 방식으로 데이터가 처리되면서 개인정보 침해 우려가 커졌다. 또 AI 판단은 데이터 오류, 왜곡, 거짓정보 등으로 사실과 괴리가 발생할 수 있어 개인 정체성도 위협한다. 딥페이크 등 합성매체를 피싱을 비롯한 범죄에 악용할 소지도 있다.

이에 개인정보위는 지난해 8월 '인공지능 시대 안전한 개인정보 활용 정책방향'을 발표하고 AI 분야 프라이버시 정책을 구체화하고 있다. AI 개발·서비스 과정에서 불확실성 해소, 국제적으로 일관성 있는 규율체계 마련 등을 목표로 한다.

먼저 개인정보위는 AI 프라이버시 민·관 정책협의회를 띄웠다. 협의회는 AI 편익과 위험성을 고려한 균형 있는 국내 규율체계를 마련하고 AI 국제규범 논의를 지원하기 위한 곳으로, 학계·법조계·산업계·시민단체 등 전문가 32명으로 구성했다. AI 개인정보 규율체계를 민·관이 함께 설계하고 AI 환경 불확실성을 해소한다는 비전이다. 정책방향에서 제시한 개인정보 처리 원칙·기준을 바탕으로 실제 현장에서 적용 가능한 구체적인 기준을 마련한다는 예정이다.

'인공지능프라이버시팀'도 신설했다. 팀은 개인정보위의 AI 규제 철학인 '원칙 중심' 규율체계를 펴나가는 데 있어 빈 공간을 채우는 역할을 맡는다. 개인정보위는 규정이 아닌 AI 환경에서 준수해야 할 원칙을 제시하는 '원칙 중심'으로 규율체계로 전환을 선언했다. 기술 발전 속도와 방향에 대한 예측이 어려워, 규정이 현장과 동떨어질 수 있어서다.

다만 원칙만 제시하다 보니 현장에서 되레 불확실성이 커질 우려가 있다. 팀은 AI 개발·서비스 시 개인정보 보호·활용 관련 사업자 요청이 있을 때 법령해석, 컨설팅 등 필요한 사항을 지원해 AI사업자가 겪는 불확실성을 줄여준다. 또 비정형데이터 가명처리 기준, 공개된 개인정보 활용, 생체인식정보 규율체계, AI 투명성 확보, 이동형 영상기기 촬영정보 활용, 합성데이터 활용 등 AI 관련 6대 프라이버시 가이드라인도 마련하고 있다.

아울러 AI사업자의 불확실성을 해소하기 위해 사전적정성 검토제도 시범운영하고 있다. 이 제도는 AI 등 신기술·신서비스 개발을 기획하는 단계에서 개인정보보호법 저촉 여부가 모호한 사업자가 사전적정성 검토를 신청하면 개인정보위와 사업자가 보호법 준수방안을 협의해 정하고, 사업자가 적정히 준수방안을 적용했다면 행정처분을 면제하는 게 핵심이다. 지난 13일 첫 사례가 나오는 등 순항하고 있다. 개인정보위는 시범운영 결과 등을 반영해 고시 등을 제정한 후 이달 중 본격 시행할 예정이다.

글로벌 AI 규제를 선도하기 위한 노력도 하고 있다. 고학수 개인정보위 위원장이 국제연합(UN) 인공지능 고위급 자문기구 위원으로 선발된 게 대표적이다. 자문기구는 AI 위험과 도전과제, 편익과 활용, 국제 거버넌스 설립방안 등을 논의하기 위해 꾸려졌다. 특히 AI거버넌스 구축 방향과 이를 위한 국제기구 설립에 대한 권고안을 담은 두 차례의 보고서를 작성할 예정이다. 고 위원장이 자문기구에 참여함으로써 AI 국제 거버넌스 분야에서 우리나라의 역할과 영향력이 커질 것으로 기대된다.

개인정보위가 지난해 AI 프라이버시 관련 정책에 대한 밑그림을 그렸다면 새해엔 채색 작업에 본격 돌입할 것으로 보인다. 개인정보보호법 시행령 2차 개정에 따른 후속조치도 이뤄질 전망이다. 2차 개정안엔 자동화된 결정에 대해 거부·설명 등을 요구할 수 있는 권리가 신설된다. 이 권리는 AI 결정정을 거부하거나 설명을 요구하는 것을 말한다. 예를 들어, AI를 활용한 완전 자동화 시스템으로 채용 면접에서 탈락하거나 복지수급자에서 떨어질 경우 이를 거부하거나 설명을 요구할 수 있다.

개인정보위 관계자는 “자동화된 결정에 대한 설명요구권 도입에 따른 세부사항을 구체화하겠다”면서 “AI 프라이버시 민·관 정책협의회 운영을 통해 프라이버시 관점에서 AI 신뢰성 평가 기준·모델을 순차적으로 정립하겠다”고 말했다.

개인정보보호위원회 AI 프라이버시 관련 정책 일지

조재학 기자 2jh@etnews.com