Arrivano i falsi libri creati con AI: l’odissea di Jane Friedman

Abbiamo già visto in passato come con l’uso delle AI sia possibile farsi il proprio “revenge porn” personale chiedendo ad una AI di montare la testa di una donna che conosci su un corpo discinto simile. Abbiamo già visto creazioni con AI entrare nell’agone della disinformazione filorussa, tra scene di bombardamenti al Pentagono sufficienti per causare un crollo in borsa a legioni di falsi personaggi creati con l’intelligenza artificiale per rimpolpare le file dei sostenitori del Putinismo

Quello che la scrittrice e imprenditrice Jane Friedman non era pronta a prevedere erano libri creati a suo nome e venduti su Amazon come eBook creati integralmente con le AI.

Arrivano i falsi libri creati con AI: l’odissea di Jane Friedman

Il meccanismo è stato brutalmente semplice, perché la vicenda si è risolta ma non prima che qualcuno avesse avuto modo di guadagnarci.

Il 7 Agosto 2023 la scrittrice si è resa conto di una piccola invasione silenziosa di “guide per fare soldi scrivendo libri” a suo nome. Ovviamente non scritte da lei, ma ripiene di quel coacervo di banalità e “consigli della serva” che un qualsiasi ChatBot potrebbe sputarti fuori se gli chiedi gentilmente di “Scrivere un libro nello stile dell’autore tale”.

Come se non bastassero le illustrazioni da AI “Nello stile dell’autore” rivendute per un rancoroso pubblico di pseudo-bolscevichi pronti a urlare che le AI sono il futuro “che libererà l’arte dalla dittatura di chi ha il talento donandola a tutti” (come se il talento piovesse dal cielo, come se le AI non facessero altro che assemblare scampoli di creazioni altrui…), siamo arrivati al presunto libro di autore tale venduto come tale.

E qui comincia l’inferno: qualcuno aggiunge quei libri a Goodreads, il social network “per i lettori” che consente agli utenti di creare liste di libri consigliati da leggere, naturalmente indicando Jane Friedman come autrice.

Il 7 Agosto l’autrice si rivolge ad Amazon per la rimozione. Rimozione che avviene solo l’indomani in quanto i meccanismi di rimozione non sono tarati per il falso da AI: alla scrittrice vengono richieste informazioni sulla registrazione di libri che tecnicamente neppure esistono.

Quarantotto ore dopo la rimozione: intanto un intervallo che mette a nudo la novità.

L’autrice non ha dubbi: i falsi libri erano perfettamente sovrapponibili al “prompt”, ovvero la richiesta “Cosa direbbe Jane Friedman su questi argomenti?”

Il diritto d’autore (e alla reputazione) ai tempi delle AI

Non parliamo di problemi peregrini: un libro mediocre appioppato ad un autore e pubblicizzato a mezzo social è un danno alla reputazione e al profitto. Come delle stampe “Nello stile di” alla fine altro non sono che “kitbashing”, pezzi di arte di qualcuno incollati assieme e rivenduti al posto della sua opera.

Come anche scoprire che secondo una ricerca fatta su ChatGPT improvvisamente sei diventato un corruttore, uno stupratore oppure rischi di perdere un anno di studi perché una AI “zelante” ti ha accusato di plagio.

Non è un caso che il Garante abbia chiesto ad OpenAI garanzie sulla veridicità e sulla capacità di rettificare il dato prodotto.

Perché viviamo tutti nel futuro, finché qualcuno finisce all’inferno.