빅브러더 MS "1년 전 본 것도 전부 찾아줄게"

도 넘은 개인정보 수집
AI 탑재한 '코파일럿+PC'
1분에 수십번씩 화면 캡처
실시간 개인정보 침해 논란

녹색 드레스가 사고 싶어 검색하다가 급한 일이 생겨 노트북을 덮었다. 몇 시간 뒤 드레스가 다시 생각나 인터넷 창을 켰지만, 봐 뒀던 제품이 도무지 기억나지 않아 애를 먹었다. 마이크로소프트(MS)가 최근 출시한 코파일럿+ PC 유저에겐 이런 일이 없을 전망이다. 생성형 인공지능(AI) 모델이 장착된 이 PC는 몇 초에 한 번 노트북 화면을 캡처해 저장한다. 이 데이터를 기반으로 노트북 창에 한 번이라도 띄운 내용이라면 사진이든 문서든 파일이든 웹사이트든 언제든 다시 찾아낼 수 있다. MS는 이 리콜 기능을 두고 “마치 사진과 같이 정확한 기억력을 제공하는 셈”이라고 설명했다. 유수프 메흐디 MS 소비자마케팅책임자는 ‘디지털 일기장’ ‘타임머신’ 등에 비유하며 이 기능의 편의성에 초점을 뒀다.

우려의 목소리도 작지 않다. 개인정보가 그야말로 낱낱이 저장되기 때문이다. 젠 골벡 미국 메릴랜드대 정보대학 교수는 CNN에 “리콜 기능은 악용하면 악몽과 같은 결과를 낳을 수 있다”고 말했다. 리콜 기능으로 수집된 정보가 개인 소유 PC에만 저장돼 있더라도 해커 등에 의한 외부 접근을 완전히 차단할 방법은 없기 때문이다. 영국 정보보호 감독기관인 정보위원회(ICO)는 MS에 제품 안정성에 대한 질의를 전달했다.

책임감 있는 AI 기술의 개발·활용은 지난달 말 서울에서 열린 ‘AI 정상회의’에서도 주요 의제로 다뤄진, 정보기술(IT)업계의 최대 화두다. 유럽연합(EU)이 세계 최초로 AI 규제법을 마련한 데 이어 일본 역시 법률 제정 논의에 들어가는 등 각국 정부의 움직임도 빨라지고 있다.

그러나 기업들은 책임감이나 윤리보다 데이터 확보가 우선이다. 이른바 ‘데이터 파이프라인’을 촘촘히 세워서 더 많은 정보를 효율적으로 빨아들이기 위한 빅테크들의 혈투도 한층 격렬해지고 있다. 생성형 AI 업계에선 정보가 곧 권력이어서다. 플랫폼업계에선 사규를 무시하거나 임의로 바꾸고, 저작권법을 위반하는 등 정보 권력의 우위에 서기 위한 각종 편법이 횡행하고 있다. 오픈AI가 자사 AI 모델인 GPT-4 학습을 위해 100만 시간이 넘는 유튜브 영상을 무단으로 사용한 것이 대표적이다. 경쟁에서 뒤처진 메타는 대량의 장문 데이터를 합법적으로 확보하기 위해 세계 빅5 출판사 중 하나인 사이먼&슈스터를 인수하는 방안까지 고려했다는 사실이 뒤늦게 알려졌다.

장서우 기자 suwu@hankyung.com