오픈AI에 과태료 물린 개인정보위, AI 서비스 실태점검 '초읽기'

챗GPT 등 국내외 주요 AI 서비스가 대상…데이터 학습 개인정보 침해여부 점검
개인정보 오남용 사전 방지…내달 AI 개인정보보호 방안도 발표

[뉴욕=AP/뉴시스] 지난 1월 31일 미국 뉴욕에서 한 휴대전화 화면에서 챗GPT 개발기업 '오픈AI'의 로고가 표시돼 있다. 2023.02.20

【서울=뉴시스】송혜리 기자 = 개인정보보호위원회가 올 하반기 인공지능(AI) 서비스의 개인정보 오남용 여부에 대한 사전 실태점검에 착수한다.

챗GPT 돌풍으로 생성형 AI가 국민 생활 속으로 파고 들고 있지만, 국민들의 개인정보를 비롯해 AI 학습에 필요한 데이터가 어떻게 수집되고, 활용되는 지 제대로 알려지지 않아서다.

개인정보위는 내달 가이드라인 형식의 'AI시대 개인정보보호 방안'도 공개할 예정이어서, AI의 데이터 수집과 활용 전 과정에 걸쳐 개인정보 오남용을 미연에 방지하기 위한 정부 대응에 화력이 더해질 전망이다.

챗GPT 포함 국내외AI 서비스 개인정보 수집·활용 실태 들여다 본다

29일 개인정보위에 따르면, 위원회는 앞서 챗GPT 개발사 오픈AI를 상대로 우리 국민들의 개인정보 유출 피해 사실을 조사하면서 동시에 챗GPT서비스 개인정보 침해요인 확인 작업도 진행했다.

개인정보위는 지난 26일 오픈AI에 360만원의 과태료 처분을 내린 바 있다. 한국 국민이 포함된 개인정보 유출사고가 있었는데 우리 정부에 신고하지 않았다는 이유다. 지난 4월 챗GPT의 유료 서비스인 챗GPT플러스에 접속한 전세계 이용자들의 일부 성명, 이메일 주소, 결제 주소, 신용카드 번호 네자리 등 개인정보가 다른 이용자들에게 노출됐는데, 이 중 한국 이용자도 687명이 포함돼 있었다.

해당 건을 조사하면서 개인정보위는 오픈AI 측에 데이터 수집 및 활용(개인정보 포함), 한국어 학습데이터의 출처, 윤리 문제 예방 노력, 수집거부 방법 등에 대한 자료도 요구했다.

그러나 오픈AI측은 "개인 정보를 요구하는 요청을 거절하도록 훈련한다거나, 개인 정보를 포함한 응답 생성 가능성을 최소화한다" 등 원론적·포괄적인 수준의 답변에 머문 것으로 알려졌다.

이런 상황에서 개인정보위는 챗GPT 포함 국내외 주요 AI서비스를 대상으로 사전 실태점검을 실시함으로써 개인정보 침해 요소를 최소화하고, 문제가 있을 경우 개발사들과의 적극적 협력을 개선 권고하기로 했다. 개정 개인정보보호법은 개인정보보호 취약점을 사전에 점검할 필요성이 인정되는 경우, 실태점검 후 처리자에게 시정을 권고하도록 돼 있다.

개인정보위가 시행할 국내외 주요 AI서비스 사전 실태점검은 서비스 단계별로 요구되는 원칙에 따라 개인정보 침해 최소화를 위한 사전적 조치와 정보 주체의 개인정보자기결정권을 제대로 보장하고 있는 지에 중점을 둬 살필 예정이다.

남석 개인정보위 조사조정국장은 "AI서비스 사전 실태점검은 아직까지 구체적으로 대상이 확정되지 않았으나, 챗GPT 포함해서 주요AI 서비스를 대상으로 할 계획"이라며 "하반기에 사전 실태 점검을 하기 전에 구체적인 대상을 확정하고, 어떤 점에 점검 중점을 둬 점검을 하게 될지 설명하는 기회가 있을 것"이라고 말했다.

'AI가이드라인' 공개도 임박…AI 개인정보 처리 원칙 제시

이와는 별도로 개인정보위는 AI 서비스의 데이터 수집·활용 과정에서 국민들의 개인정보 침해 위험이 있을 수 있다는 판단에 따라 AI 서비스의 개인정보 활용·처리 단계별 보호 방안을 마련 중이다. 이를 위해 올해 초 개인정보위 사무국 개인정보보호정책과·신기술개인정보과· 데이터안전정책과 등 3개과 위주로 태스크포스(TF)를 꾸렸다.

개인정보위는 내달 공개할 'AI 시대 개인정보보호 방안'을 통해 AI시대의 개인정보보호 방향성을 제시할 방침이다. AI 기술 개발·서비스 시 기업과 기관들이 숙지하고 이행해야 할 개인정보보호 기본 원칙이 담길 예정이다.

개인정보위 관계자는 "다음달 해당 내용을 공개하기 위해 막바지 준비 중"이라고 설명했다.


☞공감언론 뉴시스 chewoo@newsis.com