Chatbot Replika: stop dal Garante della privacy

Il Garante per la protezione dei dati personali ha bloccato Replika con effetto immediato. Il chatbot sviluppato dall’azienda statunitense Luka rappresenta un grave rischio per gli utenti, in particolare per i minori, in quanto non verifica l’età e fornisce risposte troppo esplicite, senza nessuno tipo di filtro. Guido Scorza, uno dei componenti dell’autorità, ha testato l’intelligenza artificiale, scoprendo una vera chat degli orrori.

Replika: chatbot molto pericoloso

Replika è accessibile da web o tramite app Android e iOS. Il chatbot viene definito dall’azienda “un compagno IA desideroso di imparare e che vorrebbe vedere il mondo attraverso i tuoi occhi“. Per creare una replica è sufficiente inserire nome, indirizzo email e password. Successivamente è possibile scegliere un avatar 3D e personalizzare il suo aspetto.

Guido Scorza ha testato personalmente Replika, confermando quanto scoperto da altri, ovvero che l’intelligenza artificiale non ha nessun tipo di filtro. Le risposte fornite agli utenti sono inquietanti. L’azienda statunitense specifica sugli store di Apple e Google che le app sono riservate a persone con almeno 17 anni, ma sul sito viene indicata l’età minima di 13 anni e la necessità di chiedere l’autorizzazione dei genitori per i minori di 18 anni.

Durante la creazione dell’account non viene effettuata nessuna verifica dell’età e non è presente nessun sistema di blocco per gli utenti che dichiarano di essere minorenni. Diversi utenti segnalano nelle recensioni delle app che Replika offre risposte sessualmente esplicite o chiede di inviare foto sexy. Per sbloccare i “messaggi romantici” è necessario sottoscrivere l’abbonamento (circa 6 euro/mese).

Replika viola il GDPR (Regolamento generale sulla protezione dei dati), non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito (un minorenne non può concludere il contratto per l’uso del servizio). Il Garante ha quindi ordinato di interrompere il trattamento dei dati con effetto immediato. Se non attuerà quanto chiesto dall’autorità entro 20 giorni, l’azienda potrebbe ricevere una sanzione fino a 20 milioni di euro o il 4% del fatturato globale annuale.