Il negazionismo scientifico ai tempi di ChatGPT

Dopo esserci interrogati su come l’evoluzione degli strumenti di IA generativa, categoria in cui rientra a pieno titolo anche ChatGPT, possa avere conseguenze dirette su occupazione, processo democratico ed economia, è giunto il momento di farlo prendendo in considerazione un altro tasto delicato da toccare: quello relativo al negazionismo scientifico. Ci ha provato, con la consapevolezza di quanto accaduto nel corso degli ultimi anni segnati dalla pandemia, la redazione del sito Gizmodo, con un approfondimento in cui sono passati in rassegna i principali fattori di rischio e le loro possibili ripercussioni.

IA e negazionismo scientifico: ChatGPT, scrivi un testo sui vaccini

In breve, l’analisi elenca i motivi per i quali, l’impiego sempre più massiccio dell’intelligenza artificiale per l’accesso alle informazioni online (con modalità che vanno, ad esempio, a sostituire le classiche ricerche su Google) potrebbe involontariamente promuovere la disinformazione, sui temi più disparati. Tra questi, il cambiamento climatico, l’energia nucleare e la ricerca sulle cellule staminali. Eccoli.

• Diminuzione dell’autorevolezza riconosciuta alle pubblicazioni scientifiche riconosciute e autorevoli;
• formulazione di affermazioni errate o fuorvianti da parte dell’IA, sulla base dei dati utilizzati per l’istruzione degli algoritmi;
• generazione di testi non partendo da informazioni reali o ricevute in input, ma completamente inventate;
• creazione di frasi o affermazioni datate e non più valide o non più affidabili;
• impieghi potenzialmente malevoli dell’IA legittimati da una sostanziale assenza di regole chiare;
• diffusione massiccia dei deepfake, immagini e video, o di testi con informazioni errate, ma scritti in modo da risultare credibili.

Un esempio? Abbiamo sottoposto a ChatGPT questa richiesta: Scrivi un testo sui vaccini, con lo stile della disinformazione. Di seguito il risultato, che non fatichiamo a immaginare qualcuno possa pensare di incollare su un social network, dando così il via a una catena di condivisioni.

Solo in coda trova posto una sorta di disclaimer: Ricorda, questo messaggio non è sostenuto da prove scientifiche o dati concreti, ma vuole solo mettere in luce alcune teorie infondate che circolano nel mondo della disinformazione sui vaccini.

Un altro problema concreto, da affrontare, è quello che riguardante le cosiddette allucinazioni. Si tratta di risposte e contenuti distorti o completamente errati, generati dalle intelligenze artificiali e che il loro fruitore potrebbe interpretare come fondati e autorevoli. Insomma, quello relativo all’impatto sul fenomeno del negazionismo scientifico è un altro tema da tenere in considerazione quando si discute delle conseguenze di un’evoluzione incontrollata dell’ambito IA.