Meta, un sistema di System Card per capire l'IA

I pericoli dell’IA sono uno degli ostacoli che potrebbe interporsi sulla strada delle ambizioni di Meta in direzione del Metaverso. I moniti sono arrivati da più parti nel tempo e l’unico argine oggi immaginabile è quello della trasparenza. Proprio su questo tasto Meta ha voluto portare nuove argomentazioni a proprio favore, esplicitando una strategia che intende porre in essere per far sì che i processi di IA implementati possano essere quanto più chiari, trasparenti e comprensibili possibili.

I processi di IA, insomma, devono in qualche modo essere “parlanti”, autoesplicitanti, senza che i risultati possano essere messi in dubbio dall’opacità degli algoritmi. La soluzione ideata da Meta è quella delle “system card“, prototipo pensato per fornire informazioni dettagliate sull’architettura sottostante ad un qualsivoglia sistema di IA.

AI System card

Spiega Meta:

Data la complessità dei sistemi di IA, è tanto importante quanto difficile sviluppare una documentazione che risponda in maniera sistematica al bisogno di trasparenza delle persone e al loro desiderio di avere a disposizione spiegazioni semplici. Per questo motivo, schede tecniche, model card, system card e schede informative sono pensate per destinatari diversi. Ci auguriamo che la system card risulti comprensibile sia agli esperti che agli utenti profani, e che possa fornire una prospettiva specializzata e approfondita sulla complessissima realtà dei sistemi di IA con interfaccia umana, producendo esiti ripetibili e scalabili per Meta. Riuscire a realizzare un framework a un tempo tecnicamente accurato e capace di catturare le sfumature del funzionamento dei sistemi di IA sulla scala di Meta, che sia allo stesso tempo facilmente comprensibile alle persone comuni che usano le nostre tecnologie, è un delicato esercizio di equilibrio, anche perché i progressi in questo campo sono continui.

Non un manuale di istruzioni pensato per i tecnici, né un pamphlet pensato per la divulgazione: le system card vogliono essere tasselli elementari di un’iconografia complessa e, soprattutto, dinamica. L’IA è pensata per evolvere, del resto, e non può essere descritta in modo monolitico. Meta mette dunque le mani avanti ed enuncia una serie di punti da comprendere al meglio per costruire un dialogo proficuo tra chi sviluppa IA e chi ne andrà a fruire:

• Le system card non sono definitive perché i sistemi di IA apprendono e si evolvono continuamente
  “I sistemi di IA sono progettati per apprendere e modificarsi costantemente, per cui richiedono aggiornamenti continui. E da noi, in Meta, molti sistemi non comprendono solo l’IA: il contributo delle persone gioca un ruolo importante. Anche in quei casi, una singola system card potrebbe non essere ugualmente pertinente per ogni persona che la visualizza, dal momento che continuiamo a testare nuove esperienze per i nostri utenti. Usare indicazioni temporali, che informano le persone sull’ultimo aggiornamento di una system card, è una possibile soluzione che testeremo“.
• Semplificare le informazioni tecniche non è sempre facile e il paesaggio cambia in tempo reale
  “I nostri modelli non esistono in una realtà isolata e anche fornendo sempre maggiore trasparenza sul loro funzionamento, continuano a evolversi. Il nostro obiettivo è consentire una più facile comprensione dei principi in base ai quali i nostri sistemi riconoscono e consigliano qualcosa, anziché fornire una guida per il successo o delineare le regole della piattaforma“.
• Necessità di considerare le conseguenze non volute. 
  “Dietro la tecnologia alla base dei nostri sistemi c’è ancora il lavoro delle persone, ed è nostro compito assicurarci puntualmente che si faccia tutto il necessario per rendere i sistemi il più trasparenti possibile“.
• Trasparenza e sicurezza possono a volte stridere
  “Rivelare i dettagli esatti del funzionamento di alcuni sistemi IA potrebbe compromettere la loro sicurezza o esporre un modello ad attacchi avversi, con la possibilità di danneggiare le persone che usano i nostri prodotti. In certi casi, system card eccessivamente dettagliate potrebbero consentire a soggetti malintenzionati di decodificare il sistema o modello; ritenendo comunque importante informare i nostri utenti sul funzionamento dei nostri sistemi di IA, cerchiamo di offrire un livello adeguato di trasparenza“.
• Qual è il prossimo passo? Il futuro della trasparenza nei sistemi IA di Meta 
  “Le system card possono rappresentare un passo importante per aiutare le persone a comprendere il concetto di trasparenza dell’IA delineato da Meta. Con l’evoluzione del settore e il continuo confronto sulla trasparenza e i modelli di documentazione, seguiteremo a identificare altri progetti pilota da implementare per iterare nel tempo il nostro approccio e adeguarlo alle modifiche dei prodotti, all’evoluzione degli standard del settore e alle aspettative in fatto di trasparenza dell’IA“.

Le system card, dunque, daranno vita a diagrammi esplicativi di come un’IA funziona e come si evolve, visualizzando uno spaccato della situazione durante le sue stesse fasi evolutive. In qualsiasi momento, quindi, chiunque potrà capire come agisce un’IA pur senza accedere a quei dettagli che per sicurezza o opportunità si intendono celare.