Le foto dell’agente ICE che ha sparato a Minneapolis smascherato sono falsi con AI (e non vanno diffuse). E il motivo è evidente: non corrispondono ad alcun volto reale, e rischiano di scatenare feroci cacce all’uomo verso persone che hanno la sola colpa di “somigliare ad un modello matematico”.
Dopo la sparatoria che è costata la vita dell’Osservatrice Legale Renee Nicole Good (l’osservatrice legale è una figura terza che presenzia ad operaioni di polizia o militari con effetto di “moral suasion” e per creare un clima di “De-escalation”) infatti un esercito di utenti X ha cercato di ottenere foto dell’uomo che l’ha colpita tre volte attraverso il parabrezza della sua auto chiedendo a Grok AI.
Ma Grok AI non è in grado di “smascherare volti”, solo di inventarsene.
Le foto dell’agente ICE che ha sparato a Minneapolis smascherato sono falsi con AI (e non vanno diffuse)
Grok AI è già finito sotto il mirino degli addetti ai lavori per problemi legati all’uso per la creazione di deepfake e deepnude: immagini del tutto false o “immagini di persone” (perlopiù donne, in questo caso un uomo) spogliati.
Problema: anche il deepnude ha gli stessi problemi identici che abbiamo visto con la generazione testuale, e confermato da BBC Verify: le AI sono incapaci di fare vero fact checking.
Si basano sul principio dello “statisticamente probabile”: come in un moderno “Gioco di Mister Potato”, quello in cui devi attaccare diversi occhi, orecchie e bocche ad una patata di plastica per ottenere faccette buffe, quando a Grok viene chiesto di “smascherare un uomo mascherato”, Grok cerca nel suo database foto di persone con fisici paragonabili, “smonta” i loro volti e li assembla in iterazioni di volti statisticamente probabili.
Questo comporta una serie di problemi:
- I volti ottenuti non esistono: sono volti statisticamente probabili, assemblaggi di diverse facce ritoccati per dare loro coerenza;
- Nella sciagurata ipotesi in cui uno dei volti finti somigliasse anche lontanamente ad un volto reale, la persona così sfortunata sarebbe resa oggetto di violenza da parte di boccaloni pronti a difendere le fake news
E questo accadrebbe anche per colpa vostra che avete condiviso.