ChatGPT (OpenAI), Copilot (Microsoft) e Gemini (Google) sono quelli più utilizzati dagli utenti, ma ci sono diversi chatbot specializzati nelle conversazioni più intime. I ricercatori di Mozilla hanno esaminato in dettaglio questi “compagni digitali”, scoprendo che raccolgono, condividono e vendono numerosi dati personali.
Chatbot romantici senza privacy
La crescente popolarità di questi “chatbot romantici” è dimostrato dai numerosi GPTs per adulti presenti sul GPT Store. I ricercatori di Mozilla hanno letto i termini d’uso di 11 chatbot specializzati ed effettuato vari test, scoprendo che questi compagni digitali sono un incubo per la privacy.
I chatbot esaminati sono (in ordine alfabetico): Anima: AI Friend & Companion, Anima: My Virtual AI Boyfriend, Chai, CrushOn.AI, EVA AI Chat Bot & Soulmate, Genesia AI Friend & Partner, iGirl: AI Girlfriend, Mimico – Your AI Friends, Replika: My AI Friend, Romantic AI e Talkie Soulful AI.
Quasi tutti vengono pubblicizzati come fidanzati che migliorano la salute mentale e il benessere. In realtà sono specializzati nel fornire dipendenza, solitudine e tossicità, estorcendo quanti più dati possibili. CrushOn.AI raccoglie informazioni sulla salute sessuale e prescrizioni mediche.
Solo un’app (Genesia AI Friend & Partner) rispetta gli standard minimi di sicurezza. Il 73% non spiega come gestisce le vulnerabilità, mentre il 45% accetta password deboli. Tutte le app, tranne EVA AI Chat Bot & Soulmate, condividono e vendono dati personali a scopo pubblicitario. Oltre la metà (54%) non consente di cancellare i dati. Le app contengono inoltre migliaia di tracker che condividono dati con terze parti.
Le aziende che sviluppano i chatbot specificano nei termini d’uso di non essere responsabili delle conseguenze associate alle risposte. In generale, Mozilla ha evidenziato la scarsa trasparenza. Non è chiaro come sono stati addestrati i modelli IA, né se ci sono protezioni per bloccare contenuti pericolosi.
Ti potrebbe interessare
14 feb 2024