Circa tre anni fa, l’azienda di Redmond ha deciso di licenziare la maggioranza dei giornalisti di Microsoft News e MSN per lasciare all’intelligenza artificiale il compito di scrivere gli articoli. Le conseguenze possono essere inattese, come dimostrano i consigli di viaggio pubblicati (e successivamente rimossi) nella sezione Microsoft Travel di MSN.
Visitare Ottawa Food bank a stomaco vuoto
L’articolo elencava 15 attrazioni della città di Ottawa in Canada. Ai primi due posti c’erano il Winterlude Festival (che si svolge solo nel mese di febbraio) e il National War Memorial. L’intelligenza artificiale ha inserito al terzo posto la Ottawa Food Bank, una NGO (organizzazione non governativa) che consegna prodotti alimentari alle famiglie in difficoltà economiche.
La descrizione del “punto di interesse” generata dall’IA di Microsoft era completamente fuori contesto e inappropriata:
L’organizzazione raccoglie, acquista, produce e consegna cibo a persone e famiglie bisognose nell’area di Ottawa dal 1984. Osserviamo come la fame colpisca quotidianamente uomini, donne e bambini e come possa essere un ostacolo al successo. Le persone che vengono da noi hanno lavoro e famiglie da mantenere, oltre che spese da pagare. La vita è già abbastanza difficile. Considera di entrarci a stomaco vuoto.
In pratica, l’articolo consiglia ai turisti di visitare la NGO a stomaco vuoto perché è possibile ottenere cibo gratis. L’intelligenza artificiale non ha capito nulla, riportando parole prese dal sito ufficiale della Ottawa Food Bank. Questo è il testo originale:
Ogni giorno vediamo come la fame colpisce uomini, donne e bambini e come può diventare un ostacolo al successo. Le persone che vengono da noi hanno famiglia e lavoro da mantenere con bollette da pagare. La vita è già abbastanza impegnativa. Immagina di affrontarla a stomaco vuoto.
Nella pagina About Us del programma Microsoft Start è scritto che viene effettuata una supervisione umana ai contenuti generati dagli algoritmi. Visto il disastroso risultato, nel caso dei consigli di viaggio non è avvenuto nessun controllo.
Microsoft ha comunicato che l’articolo è stato rimosso e che è stata avviata un’indagine. Samantha Koziara, communications manager della Ottawa Food Bank, ha dichiarato:
Inutile dire che questo non è il tipo di messaggio o storia che avremmo mai pubblicato o in cui vorremmo essere inclusi. La frase “a stomaco vuoto” è chiaramente insensibile e non è stata verificata da un editore umano. Per quanto ne so, non abbiamo mai visto qualcosa di simile prima. L’intelligenza artificiale diventa sempre più popolare, quindi sono certa che un numero maggiore di riferimenti imprecisi o inappropriati verrà fatto in simili elenchi. Questo evidenzia l’importanza di ricercatori, scrittori ed editori umani.
Aggiornamento (19/08/2023): Microsoft ha comunicato che il problema è stato causato da un errore umano.
Ti potrebbe interessare
18 ago 2023