Google Earth: vent’anni per costruire fiducia. Ventiquattro ore per metterla a rischio • Bliss

Google Earth esiste dal 2005. In vent’anni è diventata la fonte visiva di riferimento per giornalisti, ricercatori, investigatori, tribunali. Persino le Nazioni Unite usano questo strumento, che nelle dinamiche mondiali si è guadagnato una funzione probatoria fondamentale.

Dopotutto, un’immagine satellitare è credibile perché non può essere inventata. Ed è stato questo, negli anni, a rendere Google Earth diverso da qualsiasi altra piattaforma.

In ventiquattro ore, però, Google ha messo a repentaglio tutto questo, integrando un sistema di intelligenza artificiale generativa in Google Earth.

Perché lo ha fatto? Per dare modo agli utenti di sbizzarrirsi, potendo selezionare qualsiasi punto del pianeta e modificarlo. Una valvola creativa, che avrebbe dovuto permettere di visualizzare il Colosseo all’apice del proprio splendore, o Pompei durante l’eruzione. Eppure, non è andata così.

In poche ore nel giro del pianeta sono apparsi: King Kong, centrali nucleari in Iran; rifugiati messicani lungo il confine USA; crateri nucleari a Gaza. Aerei, ovviamente, contro i grattacieli di New York.

Nessun prompt sensibile era stato rifiutato. Un chiaro errore di AI Governance, che ha costretto Google a ritirare la funzione in meno di ventiquattro ore, mettendo a repentaglio la propria reputazione.

L’errore alla base

La decisione che ha prodotto questo risultato è un chiaro errore di categoria.

Chi ha approvato l’integrazione di Nano Banana 2 in Google Earth ha trattato Google Earth come una piattaforma creativa: cosa che però Google Earth non è. Aggiungere un generatore di immagini AI a una piattaforma creativa sarebbe stata un’estensione di funzionalità. Aggiungere un generatore di immagini AI a uno standard probatorio, invece, è un attacco alla sua funzione principale. E perciò alla sua intera architettura di valore.

Possibile che Google non conoscesse la vera funzione del proprio strumento? O ha pensato davvero che le persone non avrebbero usato la funzionalità in modi come questo?

La difesa che non difende

La risposta iniziale di Google alle critiche è stata una filigrana: ogni immagine generata conteneva SynthID, il marcatore invisibile per i prodotti AI dell’azienda. Una risposta inutile, dato che durante un conflitto qualunque immagine satellitare falsa riesce comunque a destabilizzare. Nella fretta del momento, nessuno verifica la filigrana (e l’avevamo già vista all’inizio del 2026 nella guerra tra Stati Uniti, Israele e Iran). Nano Banana 2 avrebbe reso quel processo banale.

La filigrana dipende da un uso “corretto”. Ma chi vuole fare disinformazione, invece? Usarla come argomento di sicurezza, quindi, mostra quanto si sia capito poco del problema. E Google, è chiaro, non ci ha capito molto.

Nessun test, nessuna tutela

È chiaro che nessuno si sia chiesto, prima del lancio: “Cosa succederebbe se un utente generasse una centrale nucleare in Iran?”

Eppure i test adversariali servono esattamente a questo: cercare deliberatamente gli scenari in cui un sistema può fallire prima che siano gli utenti a scoprirli in produzione.

Eliot Higgins, fondatore di Bellingcat, ha scritto che “Google ha lanciato uno strumento che sembra non aver superato i test avversariali più basilari prima di andare in produzione. Questi test poi li hanno eseguiti sconosciuti, gratuitamente, a spese di Google.”

La governance di un servizio AI non può essere una fase successiva al lancio. Deve partire prima del lancio, prima di qualunque danno alla fiducia.

*King Kong che scala il Taipei 101. Un propt goliardico, che certamente non imbroglierà nessuno. Lo stesso non si può dire però dei missili a Cuba o delle centrali nucleari a Teheran.*

La lezione per qualsiasi organizzazione con un asset di fiducia

Google se la caverà. È una realtà così grande, così radicata, da poter resistere anche a una crisi come quella di Nano Banana 2 su Google Earth, ritirata in ventiquattro ore.

Non molte altre aziende però potrebbero resistere allo stesso fenomeno.

Conosciamo bene la pressione che spinge oggi a integrare capacità AI in ogni prodotto e servizio esistente (d’altronde, ne abbiamo parlato nell’articolo relativo all’AI Washing). Però, non bisogna cedere alla tentazione di farlo a prescindere dalla categoria del prodotto. E a discapito della qualità del servizio.

La domanda di governance da porre prima di qualsiasi integrazione AI non è solo “cosa può fare questo strumento?”, ma: “Quale proprietà del prodotto rende credibile quello che già facciamo?” A questa domanda deve affiancarsene poi un’altra: dove deve rimanere la supervisione umana prima che una nuova capacità raggiunga il pubblico?

Se l’integrazione preserva il valore, allora è giusto proseguire. Se lo erode, o c’è la possibilità che lo eroda, va senza dubbio evitata.

Google può resistere a impatti simili. Per realtà più piccole, invece, non è detto.

Domande frequenti

Google Earth è ancora affidabile dopo questo episodio?

Lo strumento è stato ritirato e le immagini generate non apparivano nell’esperienza principale della piattaforma per gli altri utenti. La fiducia nell’autenticità delle immagini satellitari di Google Earth non è stata compromessa. Il danno è più sottile: ha dimostrato che Google è disponibile a integrare strumenti incompatibili con le funzioni dei propri asset. Questo crea un precedente di aspettativa che richiederà una risposta chiara su dove si pone il confine. La fiducia si è incrinata non perché le immagini siano state falsificate, ma perché è stato dimostrato che potevano esserlo facilmente.

La filigrana SynthID non bastava a evitare un uso improprio?

SynthID è uno strumento di trasparenza, non di sicurezza. Segnala che un’immagine è stata generata dall’AI a chi verifica attivamente quella proprietà. La disinformazione non opera attraverso utenti che verificano le filigrane: opera attraverso la condivisione rapida di immagini in contesti dove nessuna verifica avviene. Un’immagine di una centrale nucleare in Iran pubblicata su un canale Telegram o su un quotidiano di Stato non porta con sé la nota che indica l’origine AI. La protezione offerta da SynthID è reale in un contesto di uso trasparente. Non è una difesa contro la manipolazione deliberata.

Questo caso cambia qualcosa nel modo in cui le organizzazioni dovrebbero approcciare le integrazioni AI?

Dovrebbe rafforzare un principio che vale già prima dell’AI: ogni nuova capacità introdotta in un prodotto deve essere valutata rispetto alla proprietà fondamentale che rende quel prodotto utile. Nel caso di Google Earth, quella proprietà era l’impossibilità di manipolare l’output. Nel caso di qualsiasi altra organizzazione, la domanda è: su cosa si fonda la fiducia che i nostri interlocutori ripongono in noi? E la nuova integrazione preserva o erode quella base? Il test avversariale pre-lancio è lo strumento operativo minimo. La domanda di categoria è quella più importante.

Fonti e riferimenti

Scritto il 3 Agosto 2026 · Aggiornato il 17 Settembre 2026