Zoom: Avatar AI iper-realistici di se stessi a rischio deepfake

Zoom ha annunciato durante la sua conferenza annuale l’imminente introduzione di una funzionalità che consentirà agli utenti di creare avatar iper-realistici, animati dall’intelligenza artificiale. Questa funzione, prevista per il prossimo anno, permetterà di generare un clone digitale di se stessi, completo di testa, braccia e spalle a partire da un breve video clip registrato dall’utente. Sarà possibile digitare un testo che l’avatar pronuncerà, sincronizzando i movimenti delle labbra con l’audio generato.

Nota: La possibilità di creare avatar AI di se stessi funziona solo con Clips di Zoom, che consente di registrare brevi aggiornamenti video per i colleghi.

Avatar AI di Zoom, vantaggi e rischi

Secondo Smita Hashim, Chief Product Officer di Zoom, gli avatar personalizzati sono stati ideati per facilitare la comunicazione asincrona tra colleghi, rendendola più rapida ed efficiente. Questa funzionalità consentirebbe agli utenti di risparmiare tempo prezioso nella registrazione di clip video.

Sebbene l’implementazione di avatar AI su Zoom offra interessanti potenzialità per rendere le videoconferenze più coinvolgenti e interattive, questa funzione solleva anche legittime preoccupazioni legate ai deepfake. Come promemoria, i deepfake sono video o audio generati artificialmente in modo estremamente realistico, sfruttando tecniche di apprendimento automatico. La possibilità di animare un avatar con la propria voce e movimenti del viso, infatti, potrebbe aprire la strada ad abusi e frodi.

Misure di sicurezza e protezione contro l’uso improprio degli avatar

Diverse aziende hanno già sviluppato tecnologie simili per la creazione di avatar digitali, adottando però rigorose misure di protezione per prevenire abusi. Ad esempio, Tavus richiede dichiarazioni di consenso verbali, mentre Microsoft impone ai clienti di ottenere il permesso scritto dalle persone rappresentate negli avatar.

Zoom, dal canto suo, ha fornito informazioni meno dettagliate al riguardo, limitandosi a citare le proprie politiche d’uso che vietano l’uso improprio e annunciando l’implementazione di “numerose misure“, tra cui l’autenticazione avanzata e il watermarking dei contenuti generati.

Deepfake e sfide normative per contrastare la diffusione

L’introduzione degli avatar personalizzati di Zoom avviene in un momento in cui la diffusione dei deepfake sui social media sta rendendo sempre più difficile distinguere la verità dalla disinformazione. Recenti esempi di deepfake che ritraggono personaggi pubblici o scene di distruzione legate a eventi catastrofici hanno accumulato milioni di visualizzazioni e condivisioni. Inoltre, questa tecnologia è stata utilizzata anche per colpire singoli individui, causando ingenti perdite economiche.

Attualmente, più di 10 Stati negli USA hanno emanato norme contro l’impersonificazione assistita dall’intelligenza artificiale, mentre in California è in fase di stallo una legge che conferirebbe ai giudici il potere di ordinare la rimozione di deepfake o di imporre sanzioni pecuniarie a chi li posta.