AI Act: prima approvazione del Parlamento europeo

Primo passo verso l’approvazione del nuovo regolamento sull’intelligenza artificiale (AI Act) proposto dalla Commissione il 21 aprile 2021. Le commissioni Mercato Interno e Libertà Civili del Parlamento europeo hanno adottato il testo modificato con 84 voti favorevoli, 7 contrari e 12 astensioni. Prima della negoziazione con il Consiglio occorre l’approvazione dell’intero Parlamento. La sessione plenaria è prevista il 12-15 giugno.

Vietato l’uso intrusivo dei sistemi IA

La proposta della Commissione europea suddivide i sistemi IA in base al livello di rischio: inaccettabile, alto, limitato e minimo. Tutti i sistemi IA che rientrano nella prima categoria sono vietati, ovvero quelli che rappresentano una chiara minaccia per la sicurezza, i mezzi di sussistenza e i diritti delle persone. Le due commissioni del Parlamento hanno aggiornato l’elenco per impedire l’uso di:

• Sistemi di identificazione biometrica remota (in tempo reale) in spazi accessibili al pubblico;
• Sistemi di identificazione biometrica remota (non in tempo reale) con la sola eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
• Sistemi di categorizzazione biometrici che utilizzano caratteristiche sensibili (ad esempio genere, razza, etnia, stato di cittadinanza, religione, orientamento politico);
• Sistemi di polizia predittiva (basati su profilazione, posizione o comportamento criminale passato);
• Sistemi di riconoscimento delle emozioni nelle attività delle forze dell’ordine, nella gestione delle frontiere, sul posto di lavoro e nelle istituzioni educative;
• Raccolta indiscriminata di dati biometrici da social media o videocamere di sorveglianza per creare database di riconoscimento facciale (violando i diritti umani e il diritto alla privacy).

Sono inoltre considerati sistemi IA ad alto rischio quelli che influenzano il voto degli elettori e gli algoritmi dei suggerimenti delle piattaforme di grandi dimensioni (con oltre 45 milioni di utenti attivi mensili ai sensi del Digital Services Act).

Un importante modifica al testo riguarda le intelligenze artificiali generative, come ChatGPT (che non esistevano due anni fa). Le aziende devono rispettare precisi obblighi di trasparenza, ad esempio comunicare che il contenuto è stato generato dall’IA, sviluppare modelli che impediscono di generare contenuti illegali e specificare quali dati coperti dal copyright sono usati per l’addestramento.

Il nuovo testo prevede infine esenzioni per le attività di ricerca e i modelli IA disponibili con licenza open source. Come detto, nella sessione plenaria del 12-15 giugno dovrebbe arrivare l’approvazione definitiva da parte del Parlamento europeo.