삼성도 애플도 “사용자 정보, AI폰 학습에 사용 않겠다”

새 ‘셀링포인트’ 된 개인정보 보호
“자체 보안 시스템으로 유출 막을것”

삼성전자와 애플 등이 잇따라 ‘인공지능(AI) 폰’을 내놓고 있는 가운데 AI 관련 기능보다 오히려 개인정보 보호가 더 큰 셀링 포인트로 부상하고 있다. AI 학습에 스마트폰에 담긴 민감한 개인 정보가 이용되는 것 아니냐는 우려가 커지고 있기 때문이다.

2일 정보통신기술(ICT) 업계에 따르면 최근 오픈AI, 구글 등 AI 개발사에 이어 애플, 삼성 등 디바이스 제조사들이 개인정보 보호 기능을 강화하고 있다. 애플은 지난달 20일 정식 출시한 아이폰 16에서 가장 혁신적인 변화는 ‘보안’이라고 강조했다. 이달부터 미국에서 서비스를 시작한 AI 시스템 ‘애플 인텔리전스’에서도 사용자 정보를 AI 학습에 절대 사용하지 않겠다는 방침을 밝혔다.

개인정보는 되도록 사용자 기기 내에서만 사용할 수 있도록 하겠다는 것이다. 필요한 경우 애플의 자체 데이터 센터 ‘프라이빗 클라우드 컴퓨트’를 사용해 정보가 외부로 새어나가지 않게 한다는 방침이다. 애플은 자신들의 보안 정책이 잘 지켜지고 있는지 외부 전문가를 통해 검증받겠다는 입장도 밝혔다. 구체적인 검증 방식 및 외부 전문가 구성은 향후 공개할 예정이다.

다만 오픈AI의 ‘챗GPT-4o’를 활용하는 음성 AI 비서 ‘시리’는 프라이빗 클라우드 컴퓨트 시스템이 적용되지 않는다. 애플은 오픈AI 측에 공유되는 개인정보를 선택할 수 있고, 공유하는 경우에도 사용자의 인터넷주소(IP주소)를 가린 상태로 하기 때문에 개인정보가 챗GPT의 학습에 활용되거나 노출되는 일은 없다고 설명했다.

올해 초 첫 AI 폰 ‘갤럭시 S24’를 출시한 삼성전자 역시 민감한 정보가 외부로 유출되지 않도록 보안 솔루션인 ‘삼성 녹스’를 적용했다고 밝혔다. 중요한 정보는 모두 암호화되며 AI 학습에 활용될 수 없다. 만약 클라우드에 자신의 정보를 공유하고 싶지 않다면 ‘기기 내에서만 데이터 처리’ 기능을 통해 사용자가 스스로 외부 유출을 차단할 수 있다.

국내의 AI 분야 전문가는 “AI 폰은 일반적인 AI 서비스보다 훨씬 민감한 정보를 다루는, 개인화된 AI 서비스이기 때문에 소비자들이 더욱 개인정보 보호에 촉각을 세울 수밖에 없다”고 했다.

최지원 기자 jwchoi@donga.com