Nightshade, il tool per gli artisti che avvelena l'IA

I ricercatori dell’Università di Chicago, già al lavoro sul progetto Glaze messo in campo con finalità simili, hanno annunciato l’arrivo di Nightshade. Presentato nei mesi scorsi, lo strumento permette agli artisti di avvelenare i sistemi di intelligenza artificiale, così da impedire (o quantomeno ostacolare) la fase di addestramento basata sullo scraping delle loro opere ed evitando le conseguenti violazioni del copyright durante la generazione di nuovi contenuti.

Disponibile la prima versione di Nightshade

Il tool è ora disponibile, in download gratuito con la versione 1.0 rilasciata per Windows e macOS. Per tutti i dettagli in merito al funzionamento rimandiamo alla guida presente sulle pagine del sito ufficiale. È possibile utilizzarlo anche offline.

Today is the day. Nightshade v1.0 is ready. Performance tuning is done, UI fixes are done.

You can download Nightshade v1.0 fromhttps://t.co/knwLJSRrRh

Please read the what-is page and also the User's Guide on how to run Nightshade. It is a bit more involved than Glaze

— Glaze at UChicago (@TheGlazeProject) January 19, 2024

Come funziona? Basato sul framework open source di machine learning PyTorch, prima identifica quanto rappresentato all’interno di un’immagine, poi applica modifiche ai pixel, invisibili all’occhio umano, ma in grado di ingannare i sistemi di intelligenza artificiale, che vedranno qualcosa di totalmente diverso. Di conseguenza, quando il file sarà esaminato da strumenti come quello impiegato da OpenAI per l’addestramento di DALL·E, rivelerà informazioni fittizie. In un esempio fornito dagli sviluppatori, è possibile far sì che l’opera raffigurante un’automobile possa essere interpretata come un’illustrazione con una mucca.

Operazioni di editing come ridimensionamento, ritaglio o compressione non dovrebbero intaccare l’efficacia del tool.

I requisiti richiesti per l’uso di Nightshade sono un PC con sistema operativo Windows 11 o Windows 10 (con supporto per alcune GPU di NVIDIA) oppure, nel caso di un Mac, un modello con chip Apple M1, M2 o M3. Le due release pesano rispettivamente 255 MB e 2,6 GB.

Il team al lavoro sul progetto afferma che il nuovo strumento non sostituisce Glaze (utile per far credere all’IA che l’immagine in questione abbia uno stile differente), consigliando di utilizzare prima l’uno e poi l’altro (prima Nightshade, poi Glaze) per una migliore efficacia. Più avanti, sarà rilasciata una nuova versione che li integrerà entrambi.