위기의 애플 인탤리전스…가짜뉴스 생성에 ‘시리 엿듣기’ 의혹도

애플, 가짜뉴스 생성·요약에 해당 기능 비활성화
시리 개인정보 수집 소송선 1400억원 합의금
애플 “시리 데이터 마케팅 사용 전혀 없어” 부인

애플의 모바일 인공지능(AI) ‘애플 인텔리전스’가 위기에 내몰렸다. 잇따른 뉴스 요약 오류로 해당 기능이 비활성화되고, 음성비서 ‘시리’가 사용자 개인정보를 몰래 수집했다는 의혹이 제기되는 등 구설수가 끊이지 않고 있다.

애플 로고. 픽사베이

16일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 애플은 출시한 지 6개월도 채 되지 않은 애플 인텔리전스의 대표적인 AI 기능인 뉴스 요약 알림 기능을 중단하게 됐다. 당초 시스템 업데이트를 통해 수정할 계획이었지만 불안정성이 완전히 해소될 때까지 시스템 사용 자체를 보류하고 나선 것으로 보인다.

애플의 뉴스 요약 알림 기능은 영국 BBC의 뉴스를 전하는 과정에서 오류를 일으키면서 본격적인 문제 제기가 이뤄졌다. 애플 인텔리전스가 지난달 미국의 건강보험사 ‘유나이티드 헬스케어’의 최고경영자를 살해한 총격범 루이지 만조니에 관한 BBC 기사를 요약하면서 만조니가 총으로 극단적 선택을 했다는 잘못된 내용을 사용자에게 제공한 것이다. 

뉴스 요약 오류는 계속됐다. 지난 3일 국제 다트 경기인 ‘PDC 다트 챔피언십’이 시작되기도 우승자가 확정된 것처럼 BBC 뉴스를 잘못 요약하는가 하면, 세계적인 테니스 스타 라파엘 나달이 성소수자료 커밍아웃했다는 엉뚱한 요약 내용이 제시됐다.

애플 인텔리전스의 가짜뉴스 생성에 국경없는기자회(RSF)는 “미디어의 정보를 잘못된 내용으로 자동 생성하는 것은 해당 매체의 신뢰성에 타격을 주고 대중의 권리에 위험을 초래한다”며 애플의 책임감 있는 행동을 촉구하기도 했다.

시리는 개인정보 유출 논란에 휘말렸다.

애플은 지난 3일(현지시간) 미국에서 시리가 사용자 개인정보를 몰래 수집했다는 의혹 관련 소송에서 소비자에게 총 9500만달러(약 1400억원)의 합의금을 지급하기로 했다.

소송 청구인들은 음성을 통해 시리를 불러내지 않았음에도 시리가 몰래 활성화되면서 대화 내용을 엿들었고, 일부 대화는 광고 등에 활용할 수 있도록 기업에 공유됐다고 주장했다.

애플은 전혀 사실이 아니라는 입장이다. 애플 관계자는 지난 8일 “시리 데이터는 마케팅 프로파일 구축을 위해 사용된 바가 전혀 없고, 어떤 목적으로도 결코 타인에게 판매된 적 없다”고 밝혔다. 애플은 소송이 진행되는 동안에도 청구인의 주장을 반박해왔다.

소송 취지를 전면 부인하면서도 거액의 합의금 지급에 나선 배경에 대해선 앞서 비슷한 소송이 이미 해소된 만큼 이번에도 같은 우려가 제기되지 않도록 합의한 것이라고 설명했다. 애플은 2019년 시리를 통해 사용자의 녹음 내용을 듣고 있다는 소송이 제기된 바 있다.

미국에서는 잘못 인정 여부와 상관없이 불필요한 추가 소송을 막기 위해 합의금을 지불하는 경우가 있는 것으로 알려졌다. 

지난해 10월 애플 인텔리전스 일부 기능을 내놓은 애플은 지난달 시리와 챗GPT를 결합한 모델을 선보이는 등 서비스 범위를 확대하고 있다. 애플 인텔리전스는 아이폰 운영체제 iOS 18.1 이상을 실행하는 아이폰 16 모델, 아이폰 15 프로·프로맥스 등에서 사용할 수 있다. 

이동수 기자 ds@segye.com