"우울증 치료하려다 털렸다"…'멘탈 케어' AI 챗봇, 사생활 유출 위험 '경고등'

승인된 AI앱 사용·개인정보 유출에 대한 경각심으로 피해 미연에 방지해야

(지디넷코리아=장유미 기자)최근 우울감이나 불안감, 번아웃 증상을 해소하는데 적극 활용되고 있는 인공지능(AI) 챗봇이 심각한 개인정보 침해를 야기할 수 있다는 지적이 나왔다.

노드VPN는 정신적 외로움이나 의존 욕구를 해소하기 위한 수단으로 AI 챗봇을 이용할 때 ▲믿을 만한 앱 사용하기 ▲개인정보에 유출에 대한 위험성 인식하기 ▲모든 정보가 보호되지 않는다는 점 등을 명심해야 한다고 4일 밝혔다.

최근 AI를 기반으로 한 건강 관리 앱이 유행인 가운데 개인 건강 상태와 증상 정보를 분석해 주거나, 상담을 명목으로 진짜 사람처럼 대화를 이어 나갈 수 있는 AI 챗봇 서비스가 늘고 있는 추세다. 최근 출시된 노인 건강 관리 앱 '경기도 AI+돌봄 계획'이 대표적으로, 노인 인구가 급증하는 세태에 맞춰 AI 기술로 노인들의 주기적인 안부를 확인하고 건강 및 심리 관련 상담을 수행하는 것이 특징이다.

노드VPN은 "프로그램의 규격화된 데이터를 기반으로 대응을 하기 때문에 사용자의 성격이나 상태에 대한 미묘한 세부 사항을 놓쳐 더 큰 병리적 문제를 야기할 수 있다"며 "일부 AI 툴은 개인적인 신상 정보는 물론 행동, 수면 패턴, 신체적 활동과 심박수 등의 내밀한 정보, 내면의 깊은 정서에 대한 정보까지 수집하므로 이 정보가 유출될 시 심각한 프라이버시 침해로 이어질 수 있다"고 경고했다.

(사진=코파일럿 제작)

이에 노드VPN은 승인된 애플리케이션만 사용할 것을 권고했다. 특히 국가의 유관 부처가 운영하는 공공 어플리케이션이나 병원에서 운영하는 공인된 툴을 사용하는 것을 추천했다.

또 개인정보 유출에 대한 위험성도 인식할 필요가 있다고 지적했다. 일부 AI 툴이 신체·정신적인 정보는 물론 사용자의 기분과 인지 상태를 파악한다는 목적으로 전화 통화의 음성 녹음 데이터까지 수집하고 있다는 점을 간과해선 안된다고 조언했다. 

노드VPN은 "여러 정보들은 사용자의 개인정보에 대한 유출, 침해 또는 심각한 해킹의 위험에 노출시킬 수 있기 때문에 사용에 유의해야 한다"며 "특히 로맨스와 관련된 AI 챗봇은 광고의 목적으로 종종 제3자에게 사용자의 개인정보를 공유하는 많은 추적기를 가지고 있기 때문에 더욱 사용에 유의해야 한다"고 설명했다.

보안 전문가들은 AI챗봇과의 모든 대화가 철저히 비밀로 유지되지 않는다는 점을 항상 명심해야 한다고 조언했다. 대화 중 공개되는 '개인 정보'에 대한 범위가 툴, 사람마다 아주 주관적이고 모호하다는 점도 고려해야 한다고 봤다. 

아드리아누스 바르멘호벤(Adrianus Warmenhoven) 노드VPN 사이버 보안 고문은 "최근 정신 건강을 돕는 AI 기반의 앱들이 범람하고 있는데 일부 승인된 앱을 제외하고는 전문성이 없는 마케팅 봇에 불과하다"며 "AI는 결코 남자친구나 여자친구가 될 수 없고 정신 건강의 근본적 문제를 해결해 줄 수 없을뿐만 아니라 의존성을 유발하고 개인정보까지 유출할 수 있음을 명심해야 한다"고 밝혔다.

장유미 기자(sweet@zdnet.co.kr)