Sundar Pichai: gli errori di Gemini sono inaccettabili

Anche il numero uno Sundar Pichai è intervenuto sulla questione relativa alla generazione delle immagini con l’IA di Gemini, falsata da errori storici e da altri comportamenti anomali che hanno fatto suonare un campanello d’allarme. Lo strumento, lo ricordiamo, è stato messo offline non appena emersi feedback negativi, così da poter correggere il tiro e tornerà operativo entro le prossime settimane. Queste le sue parole, estrapolate (e tradotte) da una nota circolata internamente alla società.

Voglio affrontare le recenti questioni a proposito delle risposte testuali e grafiche problematiche restituite dall’applicazione di Gemini (ex Bard). So che alcune di queste hanno offeso i nostri utenti e mostrato pregiudizi. Per essere chiaro, questo è del tutto inaccettabile e abbiamo sbagliato.

Gemini, IA ed errori: il commento di Sundar Pichai

A pubblicarne il testo è stata per prima la redazione di Semafor, a cui rimandiamo per la versione integrale. Si legge che i responsabili dell’iniziativa stanno lavorando 24 ore al giorno per risolvere questi problemi e che si sta già riscontrando un migliora1mento sostanziale su un’ampia gamma di prompt.

Tra gli errori riscontrati, alcuni sono relativi alla raffigurazione di soldati nazisti con tratti somatici asiatici oltre a padri fondatori e papi dalla pelle nera. Qui sotto alcuni esempi.

https://twitter.com/JohnLu0x/status/1760066875583816003

La fiducia degli utenti e la natura imperfetta dell’IA

È anzitutto una questione di fiducia. Il CEO di Google e Alphabet sa bene quanto un passo falso possa costare in termini di reputazione.

La nostra missione, finalizzata a organizzare le informazioni del mondo rendendole universalmente accessibili e utili, è sacrosanta. Abbiamo sempre cercato di offrire agli utenti informazioni utili, accurate e imparziali attraverso i nostri prodotti. Ecco perché le persone hanno fiducia in noi. Questo dev’essere il nostro approccio per tutti i nostri prodotti, inclusi quelli emergenti di intelligenza artificiale.

Il passaggio più interessante della nota condivisa da Sundar Pichai è però forse un altro, quello in cui si fa riferimento a un livello di imperfezione insito negli odierni sistemi di intelligenza artificiale, almeno al loro stato attuale.

Nessuna intelligenza artificiale è perfetta, in particolare in questa fase emergente di un settore che si sta sviluppando.

La creazione delle immagini attraverso l’IA generativa di Gemini tornerà online solo quando ritenuta sufficientemente affidabile e precisa. Al momento non sono state fornite tempistiche precise. Il processo di revisione in atto passa, tra le altre cose, attraverso quelli che sono definiti cambiamenti strutturali e da un aggiornamento delle linee guida. In chiusura, Pichai torna a ribadire l’importanza del concetto di fiducia, quasi fosse un mantra.

Concentriamoci su ciò che conta di più: realizzare prodotti utili che merita la fiducia dei nostri utenti.