Taylor Swift: X ha un problema con il porno IA

Il TIME l’ha appena eletta Persona dell’Anno, Spotify l’ha incoronata artista del 2023 e, in concomitanza, i progressi dell’intelligenza artificiale generativa consentono a chiunque di creare deepfake realistici in pochi secondi: cosa potrebbe mai andare storto? La notizia di porno salsa IA con protagonista Taylor Swift non stupisce nessuno, ma mette a nudo la fragilità delle piattaforme, impreparate a gestire il problema. Nelle ultime ore, X ha ospitato diversi contenuti fasulli che ritraevano la popstar senza veli.

Deepfake e porno IA: il caso Taylor Swift

In un singolo caso, prima dell’eliminazione e del contestuale ban per l’account responsabile, un’immagine è rimasta online per 17 ore, raccogliendo 45 milioni di visualizzazioni e centinaia di migliaia tra like, condivisioni e inserimenti tra i preferiti.

Stando alla ricostruzione di 404 Media, l’origine dei contenuti sarebbe un gruppo Telegram dedicato proprio alla creazione di deepfake mediante l’impiego dell’intelligenza artificiale text-to-image inclusa in Microsoft Designer, basato sul modello DALL·E 3 di OpenAI (lo stesso strumento che, ad esempio, può trasformare chiunque in un Funko POP). Il gruppo di Redmond ha reso noto, attraverso un portavoce, di aver preso in carico il problema.

Secondo il ricercatore Alex Kaplan, si tratterebbe delle stesse immagini già circolate nei mesi scorsi su 4chan.

Qual è la posizione di Taylor Swift e del suo entourage in merito alla questione? La diretta interessata non si è espressa in pubblico, ma il Daily Mail ritiene stia valutando l’ipotesi di ricorrere a vie legali. Considerando la semplicità di utilizzo degli strumenti e la quasi totale impossibilità di controllare la capillare diffusione dei deepfake, non siamo certi dell’efficacia di un eventuale procedimento. Dopotutto, già oltre quattro anni fa, una celebrità come Scarlett Johansson ha deciso di gettare la spugna per le difficoltà nell’arginare il fenomeno.

L’aiuto dei fan, il problema di X

A dar man forte alla popstar sono i suoi fan, con quella che potrebbe essere definita un’azione di disturbo, mediante la segnalazione tempestiva degli account responsabili e la condivisione massiva di immagini normali accompagnate da descrizioni e hashtag come Taylor Swift AI, così da rendere più difficile trovare quelle fake.

Il social network di Elon Musk dispone di norme sulla nudità non consensuale e sui contenuti multimediali artificiosi e manipolati, ma non brilla certo in rapidità quando è il momento di applicarle.