La scorsa settimana, alcuni errori di troppo nella creazione delle immagini da parte dell’IA generativa di Gemini, hanno spinto Google a mettere in standby la caratteristica. Il gruppo di Mountain View ha attribuito la responsabilità di quanto accaduto a un’errata ottimizzazione del modello Imagen 2 impiegato. Ora sappiamo che la funzionalità tornerà disponibile entro le prossime settimane.
La creazione di immagini con Gemini tornerà presto
Ne ha parlato Demis Hassabis, CEO di DeepMind, durante un intervento al Mobile World Congress di Barcellona. Queste le sue parole: Abbiamo messo offline la funzionalità mentre la correggiamo. Speriamo di poterla riportare online molto presto, nelle prossime due settimane o comunque in poche settimane
. Ha inoltre aggiunto che Lo strumento non si comportava come avevamo previsto
.
Cosa è andato storto? La natura del problema è da ricercare negli accorgimenti adottati da Google per evitare abusi come la generazione dei deepfake o di immagini potenzialmente interpretabili come razziste. A tale scopo, sono stati implementate protezioni che hanno però portato a un risultato indesiderato, ad esempio alla creazione di soldati nazisti con tratti somatici asiatici o di papi dalla pelle nera. Per tutti gli altri dettagli in merito alla spiegazione fornita da bigG rimandiamo alle pagine del blog ufficiale.
https://twitter.com/JohnLu0x/status/1760066875583816003
Così come avviene con le cosiddette allucinazioni dell’intelligenza artificiale, anche in questo caso la responsabilità è da attribuire non tanto al funzionamento del sistema che restituisce in output un contenuto sulla base della richiesta ricevuta in input, quanto alla conoscenza su cui poggia, ovvero quel modello text-to-image che nel caso di Gemini è rappresentato da Imagen 2. È la fase di addestramento e ottimizzazione in cui dev’essere ricercato il peccato originale, non in quella che si occupa di elaborare il prompt inviato dall’utente.
Il gruppo di Mountain View, così come gran parte dei colossi del mondo online, sta puntando molto sull’ambito dell’IA generativa. Tra i principali competitor ci sono Microsoft e OpenAI, uniti da una partnership ormai longeva e ben collaudata.