개인정보위 "SKT 에이닷, 시정권고"...AI 사전실태 조사 결과 공개

에이닷, 스노우 '권고'...딥엘, 뷰노는 위반사항 없다

개인정보보호위원회가 SKT '에이닷'을 비롯한 인공지능(AI) 응용서비스 사전 실태점검 결과를 심의·의결했다고 13일 밝혔다.

개인정보위는 작년 11월부터 거대언어모델(LLM) 사업자와 응용서비스 제공사업자로 나눠 점검을 진행하고 있다. 지난 3월 LLM 사업자에 대한 우선 점검 결과를 발표한 데 이어 이날 SKT, 스노우 등 4개의 응용서비스 사업자 점검 결과를 발표했다.

개인정보위는 이번 사전 실태점검이 각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다고 설명했다.

SKT의 에이닷은 시정권고 조치를 받게 됐다. 에이닷의 통화녹음과 요약 기능을 사용하면 이용자의 기기에서 통화 녹음을 진행, 음성파일이 SKT 서버에서 텍스트로 변환, 이를 마이크로소프트 클라우드에서 요약한 뒤 이용자에게 전달하는 방식으로 운영되고 있다.

이 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않는다는 사실이 확인됐다. 이에 개인정보위는 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수하도록 시정권고하기로 결정했다.

아울러 개인정보보호 원칙 등에 따라 텍스트 파일 보관 기간 최소화, 비식별 처리 강화, 서비스의 정보 주체들이 명확히 이해할 수 있는 조치를 마련·시행할 것을 개선권고하기로 했다.

이에 대해 SKT는 "개인정보위의 사전 시정권고를 받아 시정조치 완료했다"며 "재발 방지를 위해 시스템 개선 등에 노력하겠다"고 밝혔다.

스노우는 생성형 AI 기술 기반 프로필 이미지를 생성하는 서비스로 사전 학습된 모델을 이용하고 있어 별도의 학습데이터를 수집하지 않고 있다. 서비스 이용 과정에서 생성된 이미지도 이용자 편의를 위해 일정 기간 서버에 보관하고 있으며 이외 목적으로는 사용하고 있지 않은 것으로 조사됐다.

다만 특정 기능은 이미지를 서버로 전송해 사용 중이나 이용자가 알기 어려운 형태로 처리방침을 제공 중이다. 또한 이미지 필터링 등 외부개발도구(SDK) 안정성을 충실히 검토하지 않은 것으로 확인됐다. 이에 개인정보위는 서버로 전송, 처리하는 경우 이용자가 이를 쉽게 인지할 수 있도록 하고 외부 SDK를 사용해 개인정보를 처리할 때 의도하지 않은 개인정보를 전송하지 않도록 점검할 것을 개선권고했다.

31개국 언어 번역 서비스 딥엘(DeepL)은 공개된 데이터와 이용자가 무료 서비스에 입력한 텍스트를 학습 데이터로 사용 중이다.

개인정보위는 이용자가 입력한 정보를 학습에 쓴다는 걸 명확히 공개하지 않은 것에 대해 점검했다. 점검 과정에서 개인정보위가 지난 3월 발표한 내용을 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리 방침에 반영했다. 이에 개선권고를 하지 않기로 결정했다.

AI 기반 의료영상·생체신호 판독·진단 보조 서비스 뷰노는 AI 학습 데이터 수집·처리 관련 위반 사항이 발견되지 않았다. 병원의 기관생명윤리위원회와 기관데이터심의위원회를 통과한 데이터만 사용하고 의료기관에서 프로그램에 입력한 의료영상 등 데이터는 사용하지 않았다.

개인정보위는 "앞으로도 정보주체가 안심하고AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시하고 AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련하겠다"고 밝혔다.김영욱기자 wook95@dt.co.kr