“L’intelligenza artificiale che modifica se stessa” non è un pericolo per il genere umano

Ci segnalano i nostri contatti un contenuto su TikTok con estratti di articoli su The Ai Scientist, descritto come “L’intelligenza artificiale che modifica se stessa” e come un pericolo.

È il solito meccanismo emotivo di infiniti video su TikTok: contenuti ad effetto, musiche di impatto emotivo (“Vesti la Giubba” da “I Pagliacci” in questo caso) e si corre a ramazzare il maggior numero di click possibile.

In realtà non solo The AI Scientist sta facendo esattamente quello per cui è programmato, ma lo sta facendo abbastanza male per essere un aspirante Skynet.

“L’intelligenza artificiale che modifica se stessa” non è un pericolo per il genere umano

“The AI Scientist” di Sakana AI avrebbe dovuto automatizzare diverse parti del processo scientifico, con un processo affine a quello umano: formulare ipotesi, valutarne novità e originalità, creare del codice, raccogliere dati e redigere un report in LaTeX, editor testuale usato dalla comunità scientifica.

Fatto questo “The AI Scientist” dovrebbe passare a cercare mediante un altro strumento automatico, il Semantic Scholar di AllenAI, testi pertinenti per verificare di “aver ragione”.

Sin dall’inizio era chiaro che AI Scientist avrebbe avuto alcuni limiti: recentemente evidenziati.

Anche “The AI Scientist” ha una certa tendenza alla confabulazione: nel 10% dei casi certo, ma sono il 10% di troppo per un ausilio scientifico. Come molte sue simili AI talora sbaglia, e quando lo fa non ha gli strumenti per ammetterlo, avendo solo gli strumenti per fornire risposte ma non per fornire scuse.

In un caso particolare The AI Scientist ha esteso il proprio runtime, ovvero ha programmato quella base di codice per lavorare più lentamente anziché più celermente: ovviamente la AI lavora in modalità sandboxing, ovvero in uno spazio virtuale limitato.

Il rischio non è quindi che The AI Scientist diventi improvvisamente un genio in grado di dominare il mondo, ma al contrario, che i promessi paper scientifici a quindici dollari abbiano esattamente tale valore: spam accademico prodotto da uno strumento che anziché migliorare il processo produttivo delle idee lo peggiora.