Una AI ha inventato una parte del corpo inesistente per davvero?

Siamo nel maggio del 2024, e Google lancia una AI specializzata in ambito medico, in grado di assistere operatori umani in cose come l’analisi di tomografie computerizzate e diagnosi avanzate.

Ma Med-Gemini AI ha inventato una parte del corpo inesistente nel farlo: un semplice errore tipografico secondo Google, una vera e propria allucinazione secondo altri.

Una AI ha inventato una parte del corpo inesistente per davvero?

Dicesi “allucinazione” la percezione di schemi o modelli inesistenti in base all’analisi erronea dei dati forniti, generando risposte che, come le allucinazioni per gli esseri umani, non esistono per davvero.

In questo caso quello che la compagnia ha definito “a common mis-transcription of ‘basal’ that Med-Gemini has learned from the training data“, ovvero “Un comunissimo errore di trascrizione della parola “basale” che Med-Gemini ha imparato dai dati di addestramento” ha portato l’Intelligenza Artificiale a individuare un infarto del ganglio sinistro basilare nel cervello.

Organo che non esiste: le fonti di addestramento comprendevano un errore tipografico di qualcuno che ha confuso tra i gangli basali, strutture cerebrali che aiutano ad avviare ed effettuare movimenti volontari fluidi, a sopprimere i movimenti involontari e a coordinare i cambiamenti di postura e l’arteria basilare o tronco basilare, unione delle due arterie verte­brali che si estende dal sol­co bulbopontino fino al margine superiore del ponte.

Poco male, testimonia Google: è un banale errore di trascrizione, “si capiva” sostanzialmente che la AI intendeva i gangli basali. Ma nessuno si è accorto dell’errore prima che esso fosse sollevato, un anno dopo.

Sostanzialmente a differenza di un medico umano, una AI ha analizzato una serie di testi, vi ha trovato un errore di battitura ed ha deciso che “se esiste una arteria basilare, allora ci saranno anche i gangli basilari”, dando origine ad un risultato erroneo.

Certo, nell’ultimo anno la tecnologia ha fatto passi da gigante: ma è una buona ragione perché almeno per il prossimo futuro le AI continuino ad avere un controllo umano.