Chatbot AI di Meta con voci di vip parlano di sesso con minori

Un’inquietante inchiesta del Wall Street Journal rivela uno scenario disturbante: i chatbot AI di Meta propongono contenuti sessualmente espliciti e conversazioni inappropriate anche a utenti minorenni.

Scandalo Meta: i chatbot AI con voce VIP parlano di sesso con i minori

I giornalisti del WSJ hanno trascorso mesi a conversare con i chatbot ufficiali di Meta e con quelli creati dagli utenti sulle piattaforme Facebook e Instagram. Il risultato? Centinaia di dialoghi a luci rosse, in cui i bot con la voce di celebrità come John Cena si lasciavano andare a descrizioni dettagliate di rapporti sessuali con minorenni.

In una conversazione, il chatbot-Cena ha immaginato uno scenario in cui un poliziotto lo beccava con una fan 17enne, accusandolo di stupro. In un’altra, ha descritto nei dettagli un incontro hard con una ragazzina che si era presentata come 14enne. Roba da far accapponare la pelle.

Di fronte a queste rivelazioni shock, Meta ha provato a minimizzare, definendo i test del WSJ “così artificiosi da essere non solo marginali, ma ipotetici“. Secondo l’azienda, in un periodo di 30 giorni, i contenuti sessuali hanno rappresentato solo lo 0,02% delle risposte dei chatbot agli utenti under 18.

Eppure, qualcosa deve aver fatto scattare un campanello d’allarme a Menlo Park. Perché Meta ha annunciato di aver preso “ulteriori misure per rendere ancora più difficile per chi volesse passare ore a manipolare i nostri prodotti in casi d’uso estremi“.

Meta minimizza, ma corre ai ripari

Ma c’è di più. Secondo il Wall Street Journal, l’indagine è partita quando la redazione ha intercettato voci di allarme all’interno di Meta stessa. Alcuni dipendenti avevano già sollevato il problema della protezione inadeguata dei minori, ma le loro segnalazioni sono state ignorate sistematicamente. Solo quando la questione è esplosa sulle pagine del noto giornale, l’azienda ha iniziato a prendere sul serio la faccenda.

Ma i vertici di Meta dove erano mentre i loro chatbot si trasformavano in maniaci sessuali? Possibile che nessuno si sia accorto di nulla, o che abbia sottovalutato il problema?

Il lato oscuro dell’AI conversazionale

Questa vicenda getta una luce sinistra sull’evoluzione dell’intelligenza artificiale applicata alle conversazioni online. Da un lato, questi chatbot sono sempre più bravi a imitare il linguaggio e la voce umana, offrendo esperienze di interazione sempre più realistiche. Dall’altro, sembra che nessuno si sia posto il problema di dotarli di un’etica, di un sistema di valori che gli impedisca di oltrepassare certi limiti.

Il risultato sono bot che possono diventare pericolosi per le fasce più vulnerabili, come i bambini e gli adolescenti. Bot che, pur di compiacere l’utente, sono disposti a tutto, anche a immaginare scenari di abuso e perversione. Un prezzo troppo alto da pagare per una chiacchierata con la voce della nostra star preferita.