Arrestata per colpa di un software di riconoscimento facciale

I sistemi di riconoscimento facciale stanno sollevando preoccupazioni crescenti riguardo alla violazione della privacy e al potenziale utilizzo come strumento di sorveglianza di massa. Inoltre, i dati raccolti da questi sistemi potrebbero essere soggetti a violazioni, utilizzati impropriamente da cybercriminali per la creazione di video deepfake o sfruttati per ricerche di mercato senza il consenso dei legittimi proprietari.

Il caso di Sara “incastrata” per errore dal software di riconoscimento facciale

La storia di Sara (nome fittizio per tutelare l’anonimato della vittima), raccontata dalla BBC, mette in luce i rischi concreti dei sistemi di riconoscimento facciale. Appena entrata in un negozio, la donna è stata avvicinata da una commessa che l’ha accusata di essere una ladra e le ha intimato di andarsene immediatamente. Nonostante la sua innocenza, Sara è stata allontanata, perquisita e le è stato comunicato che non avrebbe più potuto accedere a nessuno dei negozi della catena.

L’errore del sistema biometrico Facewatch, che aveva erroneamente associato il volto di Sara a quello di una ladra, è stato successivamente riconosciuto dall’azienda, che si è scusata con la vittima. Tuttavia, questo caso evidenzia la necessità di prendere coscienza dei rischi legati all’uso di tali tecnologie.

L’uso del riconoscimento facciale da parte delle forze dell’ordine

Nonostante gli errori commessi dai sistemi biometrici, come dimostrato dalla storia di Sara, le forze dell’ordine stanno implementando sempre più frequentemente il riconoscimento facciale per identificare potenziali criminali. Nel Regno Unito, l’utilizzo di questa tecnologia da parte della polizia è cresciuto in modo significativo negli ultimi anni, passando da 9 volte tra il 2020 e il 2022, a 23 volte l’anno successivo, fino a raggiungere le 67 volte nel 2024. Questo fenomeno sembra destinato a espandersi ulteriormente, mettendo alla prova il delicato equilibrio tra libertà e sicurezza, come sottolineato dal sociologo e filosofo Zygmunt Bauman.

Facewatch, il sistema di riconoscimento facciale utilizzato in diversi negozi del Regno Unito per identificare i taccheggiatori, cattura migliaia di volti attraverso le telecamere e li confronta con quelli presenti nelle liste di controllo della polizia. Secondo Lindsey Chiswick, direttore dell’intelligence del Met, la tecnologia è veloce ed efficiente, impiegando meno di un secondo per creare un’immagine biometrica del volto di una persona e confrontarla con la lista di controllo personalizzata. Grazie a questa tecnologia, quest’anno la polizia britannica ha arrestato 192 persone.

I rischi per la privacy e la libertà civile

Silkie Carlo, direttore di Big Brother Watch, un’ONG che si occupa di libertà civili, sottolinea come la maggior parte delle persone non sia consapevole delle reali implicazioni del riconoscimento facciale. Chiunque venga scansionato diventa parte del database digitale della polizia e, in caso di errore del sistema, può essere arrestato, interrogato e costretto a dimostrare la propria innocenza.