Il database di Google per combattere i deepfake

Lo scorso anno Google ha stilato un elenco di cosiddetti Principi IA ovvero linee guida auto-imposte e da seguire affinché non venga mai fatto leva sulle potenzialità dell’intelligenza artificiale con finalità malevole o non etiche. Nel tentativo di estendere questa visione all’esterno dei propri confini aziendali, oggi il gruppo di Mountain View annuncia un’iniziativa messa in campo con l’obiettivo di contrastare il fenomeno deepfake.

Google: un database contro i deepfake

Si tratta di un database (o dataset) realizzato in collaborazione con Jigsaw. Il progetto ha anche un punto di contatto con l’Italia: è infatti integrato all’interno del benchmark FaceForensics il cui obiettivo è quello di identificare un deepfake visuale (immagine o video), realizzato dall’Università Federico II di Napoli e dalla University of Munich. L’intero pacchetto è offerto liberamente in download su GitHub affinché ricercatori e accademici di tutto il mondo possano beneficiarne.

La realizzazione ha richiesto circa un anno di lavoro, passando dal coinvolgimento di attori professionisti e non, impegnati in registrazioni date successivamente in pasto ad alcuni dei metodi di generazione dei deepfake più diffusi. I risultati sono stati impiegati al fine di istruire gli algoritmi che poi tornano utili per distinguere un filmato contraffatto. Qui sotto alcuni esempi.

Il deepfake di Matteo Renzi

Da qualche giorno il tema è al centro del dibattito anche in Italia, dopo che un noto programma televisivo ha mostrato in prima serata un deepfake che ritrae un finto Matteo Renzi pronunciarsi in modo tutt’altro che cordiale su altri esponenti della politica nostrana.

Questa sera a #Striscia un fuorionda esclusivo!
È lui o non è lui? Certo che non è lui >> https://t.co/EHD0R8lVeG pic.twitter.com/oR0AwYNlSi

— Striscia la notizia (@Striscia) September 23, 2019

Quello in video non è ovviamente il leader del nuovo partito Italia Viva. Con uno sguardo attento si può cogliere qualche incongruenza nelle espressioni facciali, ricostruite sul volto di un attore, ma considerando anche la voce piuttosto simile (quella di un imitatore) qualcuno potrebbe esserne tratto in inganno. Molte le celebrità già prese di mira, alcune delle quali hanno deciso di gettare la spugna in una battaglia impari.