Il termine scientifico non esiste, ma l'AI lo sta diffondendo ovunque

C’è una storia che, più di altre, può aiutarci a capire quanto l’abuso dell’AI, o un suo utilizzo non responsabile, possa avere un impatto significativo a ogni livello, anche sulla conoscenza condivisa dalla comunità dei ricercatori. Con modalità simili a quelle che nell’ultimo biennio hanno portato alla diffusione di false informazioni online, c’è un termine scientifico che si sta diffondendo a macchia d’olio tra le pubblicazioni più autorevoli e specializzate, ma che in realtà non esiste. O meglio, che sussiste solo perché ripetuto dagli automatismi che alimentano i sistemi di intelligenza artificiale e da chi, senza concedersi il tempo necessario per verificarne la correttezza, lo prende per buono, sulla fiducia.

Cos’è la vegetative electron microscopy?

Si tratta di vegetative electron microscopy. Per i profani (incluso il sottoscritto) potrebbe trattarsi di una locuzione come un’altra da trovare tra le pagine di un manuale di fisica o di elettrodinamica. Roba da cervelloni, insomma. Invece no, non ha alcun significato. Allora com’è finito, tra gli altri, nell’Environmental Science and Pollution Research di Springer Nature?

Qualcuno ha risolto il mistero: tutto ha avuto inizio con un errore nella scansione di un articolo risalente al 1959. Abbiamo scaricato il PDF e messo in evidenza il passaggio responsabile nell’immagine qui sotto.

In breve, durante la digitalizzazione e l’archiviazione del documento, il testo contenuto in due colonne differenti è stato erroneamente ritenuto contiguo, come se appartenesse a un’unica riga. Da una parte c’è la frase It is by means certain what happens to the vegetative cell wall when…, dall’altra invece … and examined the effect by means of electron microscopy.

Qui entra in gioco l’intelligenza artificiale. Più nello specifico il processo di addestramento dei modelli, che molto spesso fanno leva sull’analisi indiscriminata di enormi set di dati, senza verificarne l’attendibilità, raccolti con tecniche di scraping non sempre trasparenti.

Una volta fagocitato l’articolo e imparato il termine, ritenendolo corretto, gli algoritmi lo inseriscono nei testi generati, quando interrogati sull’argomento. La scarsa attenzione riposta da invia il prompt fa il resto, mostrando il fianco alla diffusione dell’informazione errata, in questo caso di un termine che non esiste.

Per restare in tema, abbiamo chiesto a un’intelligenza artificiale (quella di Adobe Firefly) di creare un’immagine inerente alla vegetative electron microscopy. È visibile nella copertina di questo articolo.