"2000명 얼굴 이미지 구축했지만 판매 못해"...'AI 규제 유연하게' 한 목소리

AI 프라이버시 규율체계 정립 위해 스타트업 현장 의견 청취
개인정보위, 인공지능 정책 방향 발표…사전 적정성 검토제 실시

[아이뉴스24 박진영 기자] "경성적인(hard) 규범은 인공지능(AI) 기술의 빠른 변화 속도를 따라갈 수 없기 때문에 원칙 기반의 유연한 규율 체계가 필요하다."

고학수 개인정보보호위원회 위원장(가운데)이 21일 오후 서울 마포구 소재 디캠프 프론트원에서 개최된 인공지능 스타트업 간담회에서 인사말을 하고 있다. [사진=개인정보보호위원회]

고학수 개인정보보호위원회 위원장은 21일 오후 서울 마포구 디캠프 프론트원에서 인공지능(AI) 새싹기업(스타트업)들을 만나 이같이 밝혔다.

고 위원장은 "개인정보보보위원회가 아닌, 개인정보 총괄 위원회, 데이터 총괄 위원회라고 생각하고 데이터를 안전하게 잘 활용할 수 있도록 고민하고 있다"면서 "내년부터 AI기술 활용이 본격화 될텐데 위원회는 사전적정성 검토, 규제샌드박스 신청 사례 등 AI 서비스·기술의 다양한 용례를 바탕으로 국내 AI 생태계를 발전시키는 데 기여하겠다"고 말했다.

개인정보위는 AI 기술에 필수 요소인 데이터 활용을 위한 제도적 기반을 마련하고 있다. 지난 8월 인공지능 시대 안전한 개인정보 활용 정책방향을, 11월 데이터 경제 활성화 추진과제를 내놓는 등 AI 개인정보 관련 정책을 발표했다. 지난 10월에는 'AI 프라이버시 민·관 정책협의회'를 구성해 민간 전문가들과 공동으로 인공지능 개인정보 규범체계를 마련 중이다.

개인정보보호위원회는 21일 오후 서울 마포구 소재 디캠프 프론트원에서 인공지능의 특성을 반영한 데이터 및 프라이버시 규율체계를 모색하기 위한 스타트업 현장의 애로·건의사항을 청취하기 위한 간담회를 개최했다. [사진=개인정보보호위원회]

◇"AI 개발에 법적 불확실성 높아"…개인정보위, '사전 적정성 검토제' 활용해야

생성형 AI 등장 이후 AI 기술 발전이 가속화됨에 따라 과거에 비해 데이터가 복잡하고 예측하기 어려운 방식으로 처리되는 경우가 증가하고 있다. 이에 따라 AI 개발·제공 과정에서 정보주체의 개인정보 침해에 대한 불안과 우려가 커지고 AI를 개발하거나 활용하는 기업의 입장에서는 법적 불확실성이 심화되고 있는 상황이다.

이날 토론회에 참석한 대부분 기업들도 개인정보 관련 법적 불확실성 때문에 다양한 애로사항을 겪고 있고, 이를 해소하기 위해 AI 관련 범정부 통합 가이드라인이 필요하다고 제안했다. AI 분야 가이드라인을 여러 부처에서 산발적으로 발표하기 때문에 각종 정보가 산재돼 있을 뿐더러 기업에서는 이를 인지하기 어렵기 때문이다.

황민영 셀렉트스타 부대표는 "회사가 2억원을 들여 2000명의 한국인 얼굴 이미지 데이터셋을 구축했지만 데이터를 팔 수 없는 상황이다. 개인정보보호법에서 제3자제공 행위 등에 포괄적으로 금지하고 있기 때문"이라면서 "게티 이미지 등에서는 이미지 데이터를 모델 계약을 맺어 불특정 다수 기업에 팔고 있고, 국내 대기업들이 한국인 얼굴 이미지를 해외 업체에서 사오는 경우도 있다"고 꼬집었다.

이어 "AI 학습 데이터에 대해선, 개인정보 제 3자 제공 포괄적 금지 예외를 인정하는 유권해석이나 법률 개정안이 필요하다고 본다"고 덧붙였다.

딥페이크(첨단 조작 기술) 악용 등 위험성만을 강조해 기술 규제에 초점을 두면, 국내 AI 기술 생태계가 발전할 수 없다는 지적도 나왔다.

한종호 딥브레인 AI 부대표는 "정부가 내년 총선에 딥페이크 영상 사용을 금지했는데, 기술을 악용하는 사람에 대한 규제를 해야지 기술 자체를 규제하는 것은 불합리하다고 본다"고 주장했다.

최근 정부가 선거일 90일 전 선거운동 기간 동안 AI 윤석열, AI 이재명 등 AI를 활용해 합성·편집한 영상물을 쓸 수 없도록 한 것이다. 이에 대해 황 부대표는 "이같은 규제는 기업들의 AI 기술 고도화를 막는것이고, 결국 AI 기술을 쓰지 말라고 하는 것이나 다름없다"고 지적했다.

개인정보위는 법적 불확실성 해소와 '원칙' 기반 규율체계 정립을 위해 노력하고 있다고 전했다. AI 등 신기술 사업 추진과정에서 프라이버시 현안(이슈)이 발생했을 때 '사전적정성 검토제'를 적극 활용해 달라고 당부했다. '사전적정성 검토제'는 AI 등 새로운 서비스를 기획·개발하려는 사업자가 개인정보위와 함께 개인정보 보호법 준수방안을 마련하고, 이를 사업자가 적정히 적용하면 추후 환경변화가 없는 한 행정처분 대상에서 제외하는 제도다.

/박진영 기자(sunlight@inews24.com)