ChatGPT: OpenAI non pubblica il tool per identificare il testo IA

Come identificare in modo efficace e affidabile il testo generato dall’intelligenza artificiale? Stando a quanto svelato dal Wall Street Journal, OpenAI avrebbe già la soluzione, per farlo con quello creato da ChatGPT. Il tool sarebbe pronto per la pubblicazione da ormai circa un anno, affossato però da una discussione interna.

OpenAI e l’identificazione del testo scritto con ChatGPT

Una delle fonti ha riferito che È solo questione di premere un pulsante per rendere lo strumento disponibile a tutti. Dunque, perché non lo fa? Il timore è che, una soluzione di questo tipo, potrebbe diminuire l’attrattiva del chatbot, in particolare all’interno di alcune fasce di utenza. Pensiamo ad esempio agli studenti: in quanti continuerebbero a impiegarlo per la stesura di compiti e temi, con la certezza di essere poi scoperti dagli insegnanti?

Funziona applicando un watermark (che può poi essere identificato in fase di analisi), alterando in modo quasi impercettibile il metodo utilizzato per la composizione delle frasi. I test condotti hanno rilevato un’efficacia del 99,9% per il sistema. È invece da verificare la percentuale residua dopo aver sottoposto il blocco di testo a modifiche.

Una portavoce di OpenAI ha riferito al WSJ l’effettiva esistenza del tool, giustificando però così la scelta di non rilasciarlo ancora.

Il metodo per applicare watermark al testo che stiamo sviluppando è tecnicamente promettente, ma comporta rischi importanti che stiamo valutando, mentre cerchiamo alternative. Crediamo che l’approccio deliberato che abbiamo adottato sia necessario, considerando le complessità coinvolte e il suo probabile impatto su un ampio ecosistema che va oltre OpenAI.

Anche un documento sul sito ufficiale è stato aggiornato, dopo la fuga di informazioni, con riferimento al text watermarking. Un sondaggio condotto dall’organizzazione ha rilevato che, circa un terzo degli iscritti più fedeli a ChatGPT, potrebbe smettere di utilizzarlo in seguito al lancio di uno strumento simile.

OpenAI sta inoltre valutando l’ipotesi di rendere il tool di identificazione disponibile esclusivamente agli addetti ai lavori nel mondo della scuola.

Come SynthID di Google, per Gemini

Guardando alla concorrenza,. Google ha svelato di recente un tool battezzato SynthID e in grado di fare lo stesso con i testi creati dall’IA di Gemini, almeno sulla carta.