L’organizzazione noyb, guidata dal noto avvocato Max Schrems, ha presentato una denuncia contro OpenAI per la violazione del GDPR (Regolamento generale sulla protezione dei dati). A causa delle allucinazioni, ChatGPT ha scritto falsamente che un cittadino norvegese è stato condannato per omicidio. Si tratta della seconda denuncia dopo quella di fine aprile 2024.
False informazioni e diffamazione
Le allucinazioni sono il problema principale dei chatbot. Possono inventare notizie che, in alcuni casi, hanno conseguenze per la vita delle persone. È proprio quello che ha scoperto un cittadino norvegese (Arve Hjalmar Holmen) usando ChatGPT. Quando ha chiesto informazioni su se stesso, il chatbot ha fornito una risposta falsa e diffamatoria.
Secondo ChatGPT, l’utente è stato condannato a 21 anni di prigione per aver ucciso due dei tre figli. La storia inventata contiene alcuni elementi reali, come il numero dei figli e la città di residenza (Trondheim). Quindi il chatbot non ha solo inventato la notizia, ma ha anche utilizzato dati personali. Si tratta di una chiara violazione dell’art. 5(1)(d) del GDPR.
OpenAI deve accertarsi che i dati siano esatti e, in caso contrario, di modificarli o eliminarli se chiesto dall’utente (come previsto dal GDPR). L’azienda californiana ha invece dichiarato che può solo bloccare il prompt per evitare risposte sbagliate. La falsa informazione rimane nel sistema. OpenAI ha aggiornato il chatbot e ora non fornisce più la risposta sbagliata perché effettua una ricerca su Internet.
L’organizzazione noyb ha comunque presentato una denuncia al garante della privacy norvegese chiedendo la cancellazione della risposta diffamatoria e la modifica del modello, oltre all’imposizione di una sanzione amministrativa.
Ti potrebbe interessare
20 mar 2025