Porno e deepfake: i casi si moltiplicano

Quando il deepfake si mescola alla politica, gli effetti sono pericolosi ed i precedenti scoperti sul volto di Barack Obama (a suo tempo) fecero scalpore. Quando il deepfake si mescola al porno, invece, gli effetti sono esplosivi ed i dati raccolti dai ricercatori Sensity non fanno che confermare questa dinamica.

Porn deepfake as a service

Secondo quanto rivelato, un bot per il deepfake sarebbe stato scoperto online e sarebbe alla base di almeno 100 mila soggetti femminili le cui immagini modificate sono state condivise su vari canali Telegram dal mese di luglio a oggi. I ricercatori sono chiari in questo: il numero dei falsi prodotti è ben più elevato, ma la cifra ufficiale di quelli ritrovati già restituisce bene la misura di quel che è il fenomeno. La produzione è inoltre continua e destinata a moltiplicarsi in virtù del fatto che la segnalazione continua a propagarsi e la produzione, quindi, aumenta.

Il servizio è web based, un’evoluzione del già noto “DeepNude“: si carica l’immagine di una donna e se ne ottiene un fotomontaggio estremamente realistico del volto su un corpo nudo. A questo punto si può scegliere se pubblicare l’immagine direttamente o scaricarla: se si utilizza un profilo gratuito l’immagine avrà una filigrana sovrapposta, se invece si utilizza un account a pagamento (8 euro) si possono ottenere oltre 100 fotomontaggi di questo tipo senza filigrana alcuna.

Today we go public with the findings of a new investigation: early this year we uncovered a new deepfake bot on Telegram, an evolution of the infamous DeepNude from 2019, which "undressed" at least 100.000 women without their knowledge.https://t.co/JLhDtfo7jq pic.twitter.com/gjMIZ2CzV1

— Sensity (@sensityai) October 20, 2020

L’impatto è chiaramente potenzialmente molto forte, poiché è sufficiente prelevare un selfie qualsiasi dal Web, fare un fotomontaggio al volo e quindi divulgarlo: quando le immagini sono sufficientemente realistiche, potrebbero avere un impatto reputazionale enorme e gravi conseguenze psicologiche. Un servizio dall’impatto pericoloso, quindi, le cui responsabilità vanno condivise tra chi lo sta proponendo e chi lo andrà ad utilizzare.

Il problema sta nel fatto che sarà sempre più difficile arginare servizi di questo tipo, soprattutto quando si tratta di semplici elementi grafici che, una volta eliminati da un server, spunteranno su di un altro. Inevitabilmente ciò cambierà la sensibilità rispetto alle immagini porno e le valutazioni di legislatori che avranno un’arma in più per limitare il Web. Ma il tema, inevitabilmente, si pone: come poter limitare servizi di tale pericolosità senza intaccare libertà altrui? Telegram, peraltro, è nuovamente al centro della questione e presto o tardi si chiederà conto al servizio per questo ed altri problemi (copyright in primis).

Il dibattito è servito, alla prossima miccia il tema è destinato a deflagrare.