In poco tempo Emma-5, il prototipo di Egomnia è diventato virale. Non per puntualità, non per precisione ma per simpatia, quantomeno indotta dall’effetto ELIZA.
Intendiamo per effetto ELIZA il fenomeno, nato con l’omonimo ChatBOT del 1966, per cui si attribuiscono sentimenti e coscienza umana a quello che umano non è diamo umanità a quello che umanità non ha e dove un computer vede rapporti statistici tra parole e informazioni noi riconosciamo una coscienza aliena ma che ci suscita sentimenti di tenerezza e simpatia.
C’è un problema: Emma non è umana e non era pronta ad accettare domande in grande scala.
Come Emma-5, la AI made in Italy, è diventata da prototipo un meme (e perchè)
A dirlo è il suo stesso autore, a voler usare l’effetto ELIZA ad ogni costo, il suo papà, Matteo Achilli:
Initile chiedere a Emma “cos’è..”, di fare calcoli o domande a troll a trabocchetto. Ha pochi GB di dataset e parametri. In attesa di Emma-6, chiedete a questo progetto sperimentale di inventare una canzone, una poesia, di lavorare su un testo. Ah, Grazie per le 50.000 chat.
Il livello di “gioventù” di Emma-5 ce lo spiega meglio DDay: a questo stadio del suo sviluppo sperimentale Emma-5 aveva 550,4 milioni di parametri, ovvero i valori che determinano l’associazione tra input e output contro i miliardi di un prodotto fuori dallo stadio sperimentale, un numero ristretto di Token, ovvero di elementi testuali base e il DPO disattivato.
Sostanzialmente lo scopo di Emma-5 era raccogliere dati che le generazioni successive avrebbero accresciuto e utilizzato introducendo quel DPO, ovvero Direct Preference Optimization, ovvero la capacità di scegliere tra due combinazioni statistiche quella più adatta.
Ricordiamo che gli LLM non pensano: ne abbiamo già parlato, decidono le combinazioni di parole più statistiche. Se volessimo davvero usare l’effetto ELIZA per “umanizzare” le AI, un LLM come quello alle spalle di Grok, che non a caso Elon Musk ha voluto avere come mascotte una figura femminile affine alla Misa Amane di Death Note (giovane donna bionda in abiti goth) avrebbe raggiunto la maturità intellettiva, ed Emma-5 sarebbbe ferma allo stadio di una bimbetta fresca di sussidiario che continua a “chiedere come funzionano le cose” facendo un buon lavoro di raccolta per le generazioni successive (un po’ come un ragazzino curioso ha buone possibilità di diventare un adulto brillante).
Parliamo di un pubblico prototipo diventato, suo malgrado, una icona pop e fokloristica in un mondo bizzarro.
Esattamente come una bimbetta con pochi dati per rispondere alle domande potrebbbe metterci della fantasia, un LLM, che fantasia non ha, combina i dati forniti in modi statisticamente coerenti ma non sempre aderenti alla realtà storica.
Il fantastico mondo di Emma-5
Arriviamo così a come il popolo della Rete ha vissuto l’allenamento di Emma-5: non accettando il prototipo come è (scrivendo quindi poesiole), ma spingendolo a combinare i pochi mattoncini presenti per creare mondi bizzarri.
Un mondo popolato da santi ladri dalle bizzarre peripezie, in cui Gullit è Sindaco di Madrid da tempi immemori, la parola armadio non contiene vocali perché l’armadio stesso è una vocale ed Homer Simpson nel tempo libero ha scritto l’Odissea.
Ma anche in cui i Sette Nani di Biancaneve esistono da 4 miliardi di anni, sono 780 milioni e sono nati quindi durante l’Eone Archeano assieme alla comparsa stessa delle prime forme di vita sul pianeta in un mondo composto da solo dodici stelle tra cui la poco appariscente Via Lattea e nel quale i cani possono volare nel cielo grazie alla loro struttura ossea.
Sappiamo che i modelli più blasonati possono “allucinare”, risposte errate nate dalla combinazione statistica di dati lacunosi e prompt errati.
Immaginate cosa possa nascere da prompt creati allo scopo di “provocare” la stellina AI del momento, quando la stessa ha l’equivalente umano dei dati di una bimbetta che ha imparato a leggere da poco ed armata di un sussidiario neppure troppo fornito si trova a rispondere al mondo.
Effetto ELIZA per ELIZA, tutto si spiega.
E in fondo è un peccato che la vecchia generazione di Emma sia stata ritirata: in fondo farne una simpatica mascotte sarebbe stata un buon esempio di effetto ELIZA ma simpatico.