Microsoft collabora con StopNCII contro l'abuso di immagini intime

Microsoft ha annunciato un’importante partnership con StopNCII.org per affrontare il crescente problema delle immagini intime non consensuali (NCII) online. Questa collaborazione segna un passo fondamentale negli sforzi del gigante tecnologico per proteggere le persone, in particolare le donne e le ragazze, dall’impatto devastante dell’abuso di immagini intime come il deepfake porn.

Microsoft si allea con StopNCII contro l’abusi di immagini intime

La partnership introduce un approccio incentrato sulle vittime per individuare e rimuovere i contenuti NCII dai risultati di ricerca di Bing. StopNCII è uno strumento gratuito progettato per aiutare le vittime di abusi di immagini intime non consensuali. La piattaforma, gestita dall’associazione benefica SWGfL, ha sede nel Regno Unito e consente di creare impronte digitali o “hash” delle loro immagini intime senza caricare il contenuto effettivo. Questi hash vengono poi condivisi con le aziende partecipanti per individuare e rimuovere le immagini dai loro servizi.

Il programma pilota di Microsoft con StopNCII ha già dato risultati promettenti. Alla fine di agosto, l’azienda era intervenuta su 268.899 immagini segnalate attraverso il database StopNCII, impedendo loro di apparire nei risultati della ricerca di immagini di Bing.

La strategia di Microsoft

Questa iniziativa fa parte della più ampia strategia di Microsoft per combattere le NCII, che comprende:

• Una politica completa che vieta la condivisione o la creazione di immagini intime senza consenso in tutti i suoi servizi;
• Un portale di segnalazione centralizzato per gli utenti che possono richiedere la rimozione di contenuti NCII;
• Opzioni di segnalazione all’interno del prodotto per alcuni servizi come i giochi e Bing.

L’aumento dei deepfake generati dall’AIha reso ancora più urgente affrontare le problematiche legate all’uso improprio dell’AI. Microsoft è consapevole del fatto che queste tecnologie potrebbero potenzialmente amplificare i danni derivanti dall’abuso di immagini intime. In risposta a questa preoccupazione, l’azienda ha adottato contromisure per prevenire la creazione di contenuti sessualmente espliciti attraverso i propri servizi di intelligenza artificiale.

Si tratta di un passo importante per limitare l’utilizzo dannoso dell’AI e salvaguardare la privacy delle persone. L’auspicio è che anche altre aziende tecnologiche seguano questo esempio, implementando soluzioni efficaci per contrastare le derive meno nobili dell’intelligenza artificiale.