Wan 2.1 di Alibaba utilizzato per i video deepfake porno

Martedì scorso Alibaba ha rilasciato Wan 2.1, un modello di generazione video AI “aperto” e ne ha condiviso il software su Github. Chiunque abbia le competenze tecniche e l’hardware necessario può ora utilizzare e modificare liberamente questo potente strumento.

🌟 Big News from @alibaba_cloud! 🌟
Meet WanX – our next-gen AI model redefining video generation !

🚀 Presenting mind-blowing demos from WanX 2.1！

🔥 Even more exciting:
WanX 2.1 will be OPEN-SOURCE !
Coming soon …#AIart #OpenSource pic.twitter.com/R1laOyJYAL

— Wan (@Alibaba_Wan) February 20, 2025

Wan 2.1 di Alibaba usato per generare contenuti per adulti

L’idea di Alibaba era quella di democratizzare l’uso di strumenti AI avanzati, mettendoli a disposizione di una vasta platea di utenti e sviluppatori. Un gesto nobile, che apre nuove frontiere per la creatività e l’innovazione. Ma c’è un rovescio della medaglia.

Sono bastate 24 ore perché Wan 2.1 diventasse la nuova ossessione della comunità dell’AI porn amatoriale. Decine di brevi video pornografici realizzati con il software di Alibaba hanno già invaso la rete. E nei forum dedicati alla produzione e condivisione di materiale intimo generato dall’AI senza il consenso delle persone reali, gli utenti non stanno nella pelle per le potenzialità di questo modello.

Il dilemma etico dell’AI accessibile

Ecco il dilemma etico che si cela dietro il rilascio di modelli AI aperti e modificabili dagli utenti. Da un lato, si aprono nuove possibilità per la democratizzazione di strumenti potenti. Dall’altro, spesso i primi a farne uso sono coloro che vogliono creare contenuti senza il consenso delle persone coinvolte.

Su Civitai, un sito per la condivisione di modelli AI modificati, noto per essere ampiamente utilizzato da chi crea contenuti non consensuali, sono già apparsi diversi modelli Wan 2.1 modificati per produrre pornografia.

Le statistiche di Civitai parlano chiaro: ciascuno di questi modelli è già stato scaricato centinaia di volte. E le pagine dei modelli sono già piene di decine di video pornografici creati con l’AI. Civitai permette di condividere modelli AI modificati per produrre le sembianze di persone reali e modelli modificati per produrre pornografia, ma non permette di condividere media o modelli di pornografia non consensuale. Tuttavia, nulla impedisce agli utenti di scaricare i modelli e usarli per produrre contenuti non consensuali al di fuori del sito.

Alibaba, interpellata per un commento, non ha risposto immediatamente. Ma il silenzio, in questo caso, è assordante. Il gigante tech cinese si trova ora a fare i conti con le conseguenze indesiderate di una scelta coraggiosa ma forse poco ponderata.

La responsabilità di chi crea l’AI

Questo caso solleva interrogativi profondi sulla responsabilità di chi sviluppa e rilascia modelli AI potenti e facilmente modificabili. Quali misure si possono prendere per evitare che vengano usati in modo improprio e dannoso? Come bilanciare l’apertura e la democratizzazione con la tutela della privacy e del consenso? Sono domande che l’industria dell’AI non può più permettersi di ignorare.