"내가 챗봇과 나눈 대화, AI 기업 직원이 볼수 있다고?"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
정부가 오픈AI, 구글, 네이버 등 인공지능(AI) 서비스와 관련된 거대언어모델(LLM) 기업 6곳에 대대적인 개선 권고를 내렸다.
개인정보위는 "LLM 기반 AI 서비스 제공사업자는 AI 모델이 정확한 답변을 하도록 다수의 검토 인력을 투입해 질문·답변 내용을 직접 열람·검토해 데이터셋을 만들고 있다"며 "이를 AI 모델 학습 및 프롬프트 등 서비스 개선에 활용하고 있는 것으로 확인됐다"고 설명했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
AI 학습 데이터에 주민번호 등 정보 포함
"인적검토 과정, 이용자에 명확히 알려야"
정부가 오픈AI, 구글, 네이버 등 인공지능(AI) 서비스와 관련된 거대언어모델(LLM) 기업 6곳에 대대적인 개선 권고를 내렸다.
개인정보보호위원회는 27일 전체회의를 열어 LLM을 개발·배포하거나 이를 기반으로 AI 서비스를 제공하는 6개 사업자에 대해 개인정보 보호의 취약점을 보완토록 개선권고를 의결했다. 개선권고 대상이 된 기업은 오픈AI, 구글, 마이크로소프트(MS), 메타, 네이버, 뤼튼테크놀로지스다.
개인정보위는 AI 서비스 확산으로 사생활 침해 우려가 커짐에 따라 지난해 11월부터 한국인터넷진흥원과 함께 사전 실태점검을 진행했다. 점검 결과 기업들은 개인정보보호법상 기본적인 요건을 대체로 충족했지만 ▲AI 학습 데이터에 포함된 개인정보 처리 ▲인적 검토 과정을 통한 사생활 침해 ▲개인정보 침해 예방·대응 조치 및 투명성 등과 관련해 일부 미흡한 사항이 발견됐다.
먼저 AI가 무작위로 학습하는 데이터에 주민등록번호, 신용카드번호 등 중요한 개인정보가 포함될 수 있는 점이 밝혀졌다. 오픈AI, 구글, 메타 등 LLM 개발 기업의 경우 학습 데이터에서 이 같은 주요 식별정보를 사전 제거하는 조치가 충분하지 않은 것으로 확인됐다.
개인정보위는 AI 서비스 제공 단계별 보호조치 강화를 요구하는 동시에 인터넷에 우리 국민의 개인정보가 노출된 것을 탐지한 URL을 사업자에게 제공하기로 했다.
또한 개인정보위는 이용자가 AI 챗봇과 나눈 대화를 사람이 직접 검토할 수 있다는 사실을 이용자에게 명확하게 고지할 것을 권고했다. 개인정보위는 "LLM 기반 AI 서비스 제공사업자는 AI 모델이 정확한 답변을 하도록 다수의 검토 인력을 투입해 질문·답변 내용을 직접 열람·검토해 데이터셋을 만들고 있다"며 "이를 AI 모델 학습 및 프롬프트 등 서비스 개선에 활용하고 있는 것으로 확인됐다"고 설명했다.
하지만 이용자 관점에서 본인이 입력한 데이터에 검토 인력이 투입되는 과정을 알기 어렵고, 중요한 개인정보나 이메일 등을 입력할 가능성이 있어 사생활 침해로 이어질 위험이 있다. 개인정보위는 이용자가 입력 데이터를 손쉽게 삭제할 수 있도록 해당 기능에 대한 접근성을 제고하도록 권고했다.
마지막으로 동일한 LLM을 기반으로 한 AI 서비스라도 개인정보·민감정보에 대한 답변 등 침해 예방 조치의 정도가 다른 것으로 확인됐다. 개인정보위는 AI 서비스나 LLM의 취약점 발견 시 신속히 조치할 수 있는 프로세스도 갖추도록 개선 권고했다.
개인정보위 관계자는 "AI 산업 변화에 맞춰 정보 주체의 개인정보를 안전하게 보호할 수 있도록 지속적으로 모니터링할 것"이라며 "AI 가이드라인 마련, 개인정보 강화 기술 개발 등의 후속 조치를 취할 계획"이라고 밝혔다. 네이버 측은 "앞으로도 개인정보위와 긴밀히 협력해 이용자 개인정보 보호를 최우선으로 서비스를 제공할 것"이라고 말했다.
김보경 기자 bkly477@asiae.co.kr
이정윤 기자 leejuyoo@asiae.co.kr
Copyright © 아시아경제. 무단전재 및 재배포 금지.
- "6살부터 성적 흥분상태" 20대 여성이 앓은 희소병의 정체는? - 아시아경제
- 친구 때린 아들 '운동장 뺑뺑이' 시킨 아버지…훈육 vs 학대 '설전' - 아시아경제
- 사람없다고 남녀 3명이 영화관서 다리를 쭉 '민폐 논란' - 아시아경제
- 대법, “나무가 태양광 패널 가려” 이웃집 노인 살해 40대 징역 23년 확정 - 아시아경제
- 아이유·임영웅 손잡고 '훨훨'…뉴진스 악재에 '떨떠름'[1mm금융톡] - 아시아경제
- 30대 여성 스포츠 아나운서 만취 상태 음주운전…"대리기사 부르려고" - 아시아경제
- 김포시청 공무원 또 숨져…경찰 사망경위 조사 - 아시아경제
- 민희진 "주술로 BTS 군대 보낸다?…그럼 전 국민이 할 것" - 아시아경제
- 손흥민 父 손웅정 "아들에 용돈 받는다?…자식 돈에 왜 숟가락 얹나" - 아시아경제
- 소녀시대 효연, 에이핑크 윤보미 등 발리서 '무허가 촬영'에 현지 억류 - 아시아경제