Record di download per il veleno digitale per le IA

Sono passati pochi mesi da quando abbiamo annunciato l’arrivo di Nightshade: siamo arrivati a febbraio, e registriamo un record di download per il veleno digitale per le IA.

Un record assoluto che dimostra un grande interesse per il tema: ben 250mila download in cinque giorni.

Una fila virtuale con pochi precedenti nella storia.

Cosa è Nightshade

Cosa sia Nightshade, che deriva il suo nome dalla pianta velenosa nota come “Belladonna”, lo avevamo spiegato ai tempi dell’annuncio. Nightshade interferisce col sistema di “scraping”, il meccanismo con cui le AI si nutrono di dati.

Una AI, per spiegarci banalmente, come un essere umano si ispira a quello che vede, incamerando dati da un “dataset”, o set dati.

Incamerando una serie di foto di un cavallo ad esempio diventerà in grado di disegnare cavalli sempre migliori. Ma Nightshade interferisce in quel sistema drogando le immagini: una immagine alterata introdurrà nell’AI il concetto che quello non sia un cavallo, ma ad esempio un gatto o un topo.

La AI quindi comincerà a svarionare imparando non ad usare quelle foto per disegnare un cavallo, ma per creare orrende mostruosità inutilizzabili in un risultato pasticciato e confuso.

Questo consente ai creativi di proteggere la loro opera: se questa non potrà essere utilizzata in un dataset, sarà lasciata in pace.

Il che giustifica il titolo.

Record di download per il veleno digitale per le IA

Il problema alla base dell’uso dei disegni altrui nei dataset non è secondario. Mi diranno gli “avvocati di ufficio dell’AI” che anche l’essere umano impara copiando, e se le IA dovessero essere abolite dovrebbero esserlo anche i corsi “Impara a disegnare coi numeretti” e altri metodi che insegnano a disegnare copiando modelli.

Apparentemente è sensato, se non fosse che, per citare un esempio a noi vicino e concreto, noi modelli e referenze li paghiamo.

Siamo abbonati a Canva, cosa che pesa sul nostro bilancio di volontari, proprio per avere immagini da usare per illustrare i nostri articoli, ma un dataset di IA espone al rischio che opere di artisti anche emergenti che creano gallerie online per cercare di rendersi visibili siano ingurgitate, riutilizzate e diventino benzina per un “creatore digitale” che le userà per scavalcare proprio quel creativo, che non vedrà remunerazione per la sua opera.

Delle due l’una: o ad ogni creativo viene assicurata remunerazione e la certezza di poter scegliere se la sua creazione diventerà modello per addestrare la IA che un giorno potrebbe sostituirlo o meno, oppure questi potrà continuare a somministrare veleno digitale alle IA.