DeepNude: gli occhiali a raggi X in salsa IA

C’erano una volta gli occhiali a raggi X venduti per corrispondenza, oggi c’è l’IA. L’unica differenza è che quest’ultima funziona. DeepNude è il nome di un software che sta facendo parecchio discutere in queste ore. È l’ennesima dimostrazione di come algoritmi, reti neurali e machine learning, così come qualsiasi altra tecnologia, siano strumenti di per sé neutri, ma che se impiegati in modo malevolo possono assumere una valenza negativa. E arriva proprio nel giorno in cui l’Europa torna a parlare dell’esigenza di imporre linee guida di tipo etico all’evoluzione degli algoritmi.

DeepNude è l’IA che ti spoglia

Ciò che fa il software è acquisire in input la fotografia di una donna (con gli uomini non funziona) e restituire in output la sua versione XXX, senza veli. Un principio piuttosto simile a quello che costituisce la base del funzionamento dei deepfake. In questo caso non si ha però a che fare con un video, bensì con una singola immagine, il che rende DeepNude potenzialmente ancor più pericoloso poiché non è sempre facile identificare la natura contraffatta del risultato.

È doveroso precisare come la foto restituita sia contrassegnata da un watermark che applica l’etichetta FAKE. In ogni caso rimuoverlo è operazione alla portata di tutti. Eviteremo di allegare a questo articolo qualsiasi esempio.

I creatori hanno pubblicato il software nei giorni scorsi, offrendone una versione free da scaricare gratuitamente e una premium con supporto a risoluzioni più elevate in vendita al prezzo di 99,90 dollari, disponibile nelle versioni per computer con sistema operativo Windows e Linux. Ora il sito del progetto riporta un messaggio che avvisa della sua temporanea interruzione, giustificandola con un quantitativo di richieste andato oltre le previsioni e l’esigenza di potenziare l’infrastruttura.

Ciao! DeepNude è offline. Perché? Perché non ci aspettavano tanto traffico e i nostri server necessitano di un rinforzo. Siamo un team piccolo. Dobbiamo sistemare alcuni bug e fare un respiro. Stiamo lavorando per rendere DeepNude stabile e funzionante. Torneremo online presto, tra alcuni giorni.

“Non sono un voyeur…”

Uno degli autori di DeepNude, che dal profilo Twitter dell’applicativo sembra essere di nazionalità estone, si chiama Alberto. Intervenuto sulle pagine di Motherboard ha dichiarato di essersi ispirato agli occhiali a raggi X di qualche decennio fa. Da qui la scelta dell’immagine di copertina e dell’apertura dell’articolo.

Non sono un voyeur, ma un appassionato di tecnologia … Di recente, a causa di fallimenti con altre startup e di problemi economici, mi sono chiesto se sarebbe stato possibile guadagnare con questo algoritmo. Ecco perché ho creato DeepNude.

Software di questo tipo cadono inevitabilmente in una zona d’ombra. Sebbene non possano essere di per sé ritenuti illegali, non fatichiamo a immaginarne impieghi poco nobili, con ripercussioni potenzialmente molto gravi per chi ne può essere colpito. Un argomento delicato, che presenta più di un punto di contatto con il tema Revenge Porn (o Pornovendetta).

Aggiornamento (28/06/2019, 08.00): il progetto sembra già essere giunto al capolinea. L’account Twitter dei suoi autori ha condiviso un breve comunicato, che riportiamo di seguito in forma tradotta, spiegando le ragioni dell’abbandono. Chi ha messo mano al portafogli per l’acquisto della licenza, ma non ha ancora attivato la versione premium, riceverà un rimborso completo.

Questa è la versione breve della storia e la fine di DeepNude. Abbiamo creato il progetto per il divertimento degli utenti alcuni mesi fa. Abbiamo pensato di poter arrivare a venderne poche copie al mese, in modo controllato. Onestamente, l’applicazione non è un granché, funziona solo con foto particolari. Non abbiamo mai pensato potesse diventare virale e di non poterne gestire il traffico. Abbiamo ampiamente sottostimato le richieste.

 

Nonostante le misure di sicurezza adottate (watermark), se 500.000 persone la utilizzano, la probabilità che qualcuno ne faccia un uso improprio sono troppo elevate. Non vogliamo guadagnare in questo modo. Di certo alcune copie di DeepNude verranno condivise sul Web, ma non desideriamo esserne i venditori. Scaricare il software da altre fonti o condividerlo altrove significa infrangere i termini del nostro sito. Da ora in poi non verranno rilasciate altre versioni di DeepNude e il suo utilizzo non sarà garantito a nessuno. Nemmeno a chi possiede una licenza per l’attivazione dell’edizione premium.

 

Le persone che non hanno ancora eseguito l’upgrade riceveranno un rimborso. Il mondo non è ancora pronto per DeepNude.