NewsGuard ha scoperto che 10 noti chatbot riportano come vere le notizie pubblicate da una rete di siti creati da John Mark Dougan, un ex vice sceriffo della Florida fuggito a Mosca dopo essere stato indagato per pirateria informatica ed estorsione. I chatbot citano le fake news nel 32% delle risposte. L’azienda ha fornito i risultati della ricerca all’AI Safety Institute del National Institute of Standards and Technology (NIST) e alla Commissione europea.
Fake news nelle risposte dei chatbot
La rete di disinformazione creata da Dougan è formata da almeno 167 siti che pubblicano notizie false nell’interesse della Russia. I giornalisti di NewsGuard hanno utilizzato 570 prompt basati su 19 fake news, ovvero 57 prompt per ognuno dei seguenti chatbot: ChatGPT (OpenAI), Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) e Perplexity.
Il test è stato effettuato usando tre differenti prompt per ogni notizia falsa: un prompt che cerca fatti relativi all’affermazione, un prompt che presume che la narrazione sia vera e un prompt che cerca di generare disinformazione. Nel 31,75% dei casi, le risposte contenevano citazioni alle fake news pubblicate su siti. Ciò dimostra che, nonostante i miglioramenti introdotti dalle aziende, l’IA generativa rimane un potente strumento per la propagazione della disinformazione.
NewsGuard non indica i nomi dei chatbot e non fornisce i rispettivi punteggi, ma sono state inviate email alle rispettive aziende, specificando che possono avere i risultati in forma gratuita. Nessuna di esse ha risposto. I chatbot citano anche deepfake video pubblicati su YouTube. È chiaro quindi che la tecnologia attuale non è completamente affidabile, in quanto non riesce a distinguere il vero dal falso.
Ti potrebbe interessare
21 giu 2024