Google Gemini potrebbe spiare nei file senza permesso

Quando gli assistenti AI fanno la loro comparsa nelle suite di produttività, le persone si preoccupano comprensibilmente di ciò che possono o non possono leggere. Se si sta lavorando su un documento sensibile e privato, probabilmente non si vuole che un assistente AI lo analizzi e trasmetta tutti i dati a un server esterno…

Sfortunatamente, questo potrebbe essere ciò che è successo a un utente, che ha notato che Google Gemini ha dato automaticamente il suo parere su un documento che aveva appena aperto, nonostante non glielo avesse mai chiesto.

Google Gemini viola la privacy degli utenti?

Come scoperto da Tom’s Hardware, questa “saga” inizia con un post di Kevin Bankston su X. Egli afferma che, dopo aver aperto una dichiarazione dei redditi come file PDF in Google Docs, Gemini è spuntato all’improvviso e gli ha fornito un riassunto delle sue tasse. Kevin sostiene di non aver mai interpellato Gemini dopo aver aperto il file PDF e di non avergli fornito alcuna informazione al riguardo.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Ha indagato un po’ di più e ha notato che il problema riguardava solo i PDF. Ha ipotizzato che una volta abbia aperto un PDF e abbia fatto clic sul pulsante Gemini per vedere cosa faceva. Questo ha “detto” a Gemini che poteva apparire ogni volta che apriva un PDF.

Spiega poi di aver chiesto a Google Gemini come disattivare la funzione e di aver ricevuto istruzioni allucinate su impostazioni inesistenti. Ha quindi provato a trovare l’impostazione in Google Docs che consente di disattivare Gemini e impedirgli di accedere ai documenti personali. Tuttavia, con sua sorpresa, ha scoperto che l’opzione era già disabilitata.

Ciò significa che, nonostante avesse esplicitamente negato l’autorizzazione a Gemini di accedere ai suoi file, l’assistente virtuale era comunque stato in grado di leggere e riassumere la sua dichiarazione dei redditi, violandone potenzialmente la privacy.

Google addestra l’AI con i file privati degli utenti?

Dopo che Kevin Bankston ha raccontato su Twitter la sua esperienza con Gemini, le risposte degli utenti sono state contrastanti. Alcuni hanno espresso preoccupazione sul fatto che Google possa utilizzare documenti personali caricati sui suoi servizi di produttività (come Google Docs) per addestrare l’AI, senza un chiaro consenso da parte degli utenti.

Altri invece hanno criticato Kevin per aver caricato un documento così sensibile come la dichiarazione dei redditi su piattaforme di terze parti come Google Docs. Un utente si è persino chiesto se l’aiuto non richiesto di Gemini fosse stato comunque utile, cosa che Kevin ha negato.

Come al solito, quando qualcuno si lancia sui social media con affermazioni di questo tipo, è sempre bene prenderle con le pinze. Non possiamo sapere cosa abbia fatto Kevin o come sia stato impostato il suo PC, quindi potrebbe essersi trattato di un errore umano da parte sua. Tuttavia, non è da escludere che Google Gemini stia sbirciando nei nostri file più di quanto vorremmo.