YouTube contro i deepfake: tool per rilevare volti e voci AI falsi

I deepfake – video modificati dall’intelligenza artificiale per imitare la voce o l’aspetto di una persona – sono sempre più utilizzati per scopi tutt’altro che nobili. Ad esempio, una recente pubblicità fraudolenta ha utilizzato l’immagine di Kylian Mbappé per incoraggiare gli spettatori a giocare d’azzardo online o la truffa che ha sfruttato l’immagine di Tom Hanks per promuovere cure miracolose per il diabete. Questa deriva eticamente scorretta è motivo di preoccupazione tanto per i creatori di contenuti, quanto per gli utenti che fruiscono dei contenuti.

L’etichetta “Fatto con AI” di YouTube

YouTube ha già adottato misure importanti per combattere questo tipo di abusi. Dall’anno scorso, infatti, i creators devono indicare chiaramente quando un video è stato modificato utilizzando l’intelligenza artificiale, apponendo l’etichetta “Fatto con AI”. Il mancato rispetto di queste regole può comportare la cancellazione dei contenuti o la demonetizzazione dei canali interessati. Inoltre, a gennaio 2024, la piattaforma ha inasprito le sue regole vietando i deepfake che coinvolgono vittime di violenza, nonché i video in cui l’AI simula persone morte descrivendone il decesso.

YouTube introduce strumenti per individuare i deepfake AI di volti e voci

Per fare un ulteriore passo avanti, YouTube prevede di lanciare uno strumento in grado di rilevare le voci generate dall’AI all’inizio del 2025. Questo strumento sarà integrato in Content ID, il sistema di gestione dei diritti della piattaforma. Questo strumento consentirà ai creators, in particolare agli artisti, di avere un maggiore controllo sull’uso delle loro voci nei video generati dall’intelligenza artificiale. Questo sistema offre un’ulteriore protezione contro l’usurpazione della loro “identità vocale“, un problema che sta diventando sempre più allarmante con l’evoluzione di questa tecnologia.

YouTube inoltre, sta sviluppando un altro strumento per identificare i deepfake dei volti. Ciò consentirà ai creators e ai personaggi pubblici di gestire i video che impiegano la loro immagine senza autorizzazione. Con queste due nuove funzioni, la piattaforma di streaming fa finalmente la sua parte per limitare la diffusione di contenuti ingannevoli.