Google ha ritirato una funzione che combinava le capacità di generare immagini della sua IA Nano Banana con le fotografie satellitari di quasi tutto il globo presenti su Google Earth. Gli utenti potevano generare qualsiasi modifica alle fotografie e immediatamente hanno iniziato a diffondersi un’enorme quantità di deepfake.
Immagini di Mosca bombardata, di una centrale nucleare iraniana esplosa o di aerei che si schiantano sui grattacieli di New York. Un giornalista ha anche mostrato le potenzialità di questa funzione ai fini di disinformazione con un’immagine che ritraeva un enorme numero di migranti al confine tra Messico e Stati Uniti.
Indice
La funzione di Google Earth che è durata solo un giorno
Tra giovedì e venerdì della scorsa settimana, Google ha permesso agli utenti di Earth, il suo programma web che mappa il mondo attraverso foto satellitari, di modificare le immagini della superficie terrestre attraverso l’intelligenza artificiale generativa di Nano Banana 2, il suo LLM dedicato proprio alla generazione di immagini.
La funzione è stata ritirata dopo poco più di 24 ore perché gli utenti la stavano utilizzando per creare deepfake, immagini alterate che potevano portare alla diffusione di notizie false.
I deepfake creati con Nano Banana
Tra i deepfake più circolati creati con Google Earth ci sono immagini di New York con aerei che si schiantano sui grattacieli più alti, come durante gli attacchi dell’11 settembre 2001. Altre foto mostravano Mosca distrutta da un bombardamento o una centrale nucleare esplosa in Iran.
Il giornalista Henk van Ess, esperto di IA, ha sottolineato la pericolosità di questa funzione creando facilmente un’immagine che ritraeva migliaia di persone ammassate al confine tra Messico e Stati Uniti.
La risposta di Google
Google ha quindi deciso di ritirare la funzione, spiegando in un post su X di non aver previsto che gli utenti l’avrebbero utilizzata in questo modo. Secondo Google, lo scopo di inserire la generazione di immagini in Google Earth doveva essere quello di aiutare nella progettazione di spazi aperti e nella geografia.
L’azienda ha detto che, già dal primo giorno, diversi “professionisti del settore geospaziale” stavano utilizzando Nano Banana 2 su Google Earth per il proprio lavoro. Per questa ragione, riproporrà questa funzione in futuro ma con migliori misure di sicurezza.
Google è di nuovo in difficoltà sull’IA
Sull’IA, Google è in una situazione strana. Per numero di utenti, il suo chatbot, Gemini, è l’unico in grado di competere con ChatGPT. La sua integrazione nei moltissimi prodotti di Alphabet, la casa madre di Google, lo avvantaggia nella diffusione. A livello tecnico, però, sta rimanendo indietro.
I due cosiddetti “laboratori di frontiera”, OpenAI e Anthropic, sono in grado di sviluppare LLM più avanzati rispetto a quanto riesca a fare DeepMind, la società di IA di Google che dal 2010 fa ricerca in questo ambito.
Proprio negli ultimi giorni ci sono stati grandi cambiamenti a DeepMind. Il suo fondatore, il premio Nobel Demis Hassabis, ha lasciato il ruolo di amministratore delegato, diventando presidente (un ruolo meno esecutivo). Al suo posto è arrivato Koray Kavukcuoglu, promosso dal ruolo di direttore tecnico.
