Google ritira IA da Earth: stop ai deepfake con aerei su New York e bombe su Mosca

In meno di 48 ore, Google ha fatto marcia indietro su una funzione di Google Earth che permetteva di modificare immagini satellitari usando l’intelligenza artificiale Nano Banana 2. L’obiettivo? Agevolare urbanisti e professionisti del settore geospaziale. Il risultato, però, è stato un boom incontrollato di deepfake, immagini false create ad arte, che hanno subito messo in allarme utenti e la stessa azienda. Di fronte a questa escalation, Google ha deciso di bloccare tutto, spegnendo il servizio. Una corsa contro il tempo, breve ma intensa, che racconta molto sulle sfide dell’intelligenza artificiale applicata alle immagini.

Google Earth e l’IA: quando l’innovazione apre la porta ai rischi

Tra giovedì e venerdì scorsi, Google ha lanciato una nuova funzione su Google Earth, che permetteva di modificare le fotografie satellitari della Terra usando Nano Banana 2, un modello di intelligenza artificiale sviluppato dalla stessa azienda. L’obiettivo era chiaro: offrire uno strumento utile soprattutto a chi lavora in geografia, pianificazione urbana e ambientale, per simulare infrastrutture, valutare impatti territoriali e progettare spazi in modo più realistico.

Il primo giorno molti professionisti hanno iniziato a testare la funzione, scoprendo il potenziale concreto di uno strumento che trasforma semplici comandi testuali in immagini di alta qualità. Un passo avanti che sembrava promettere molto. Ma dietro le buone intenzioni si nascondeva un problema serio.

L’ondata di immagini false che ha messo in allarme tutti

Nel giro di poche ore la situazione è degenerata. La funzione è stata usata per creare immagini profondamente ingannevoli, realistiche ma completamente inventate. Sono spuntate foto di New York con aerei che si schiantano contro i grattacieli, rievocando l’11 settembre; immagini di Mosca distrutta da bombardamenti; oppure una centrale nucleare iraniana in fiamme.

Tra i casi più clamorosi c’è quello documentato dal giornalista esperto di IA Henk van Ess: una foto che mostra una massa enorme di migranti al confine tra Stati Uniti e Messico, creata solo per dimostrare quanto facilmente si potesse manipolare l’opinione pubblica con questo strumento.

Il risultato è stato un immediato effetto virale, con contenuti falsi che hanno seminato allarme e confusione. La tecnologia, unita a paesaggi reali, ha creato scenari ingannevoli capaci di influenzare eventi politici e sociali sensibili, mostrando quanto sia difficile controllare un’IA così potente nelle mani sbagliate.

Stop alla funzione, Google promette più controlli prima del ritorno

Dopo nemmeno 24 ore Google ha deciso di tirare il freno e sospendere la funzione di modifica delle immagini satellitari tramite IA su Google Earth. In un post su X , l’azienda ha ammesso di non aver previsto un uso così rapido e massiccio a fini fraudolenti. Ha ribadito che l’intento era fornire uno strumento utile per urbanisti e studiosi del territorio.

Google ha assicurato che la funzione tornerà, ma solo dopo aver messo a punto sistemi di controllo più rigidi per evitare abusi. Il monitoraggio sarà potenziato, soprattutto per impedire che immagini false vengano diffuse facilmente sui social o in altri media.

Questo episodio mette in luce la sfida che Google deve affrontare nel bilanciare innovazione e sicurezza, soprattutto quando si parla di intelligenza artificiale generativa. L’azienda ora è concentrata a rafforzare le difese prima di un possibile rilancio.

Google e l’intelligenza artificiale: una fase di transizione e sfide

Google attraversa un momento delicato nel campo dell’IA. Nonostante Gemini, il suo chatbot che compete con ChatGPT, l’azienda fatica a tenere il passo con avversari come OpenAI e Anthropic, che vantano modelli linguistici più avanzati. Anche DeepMind, la divisione di ricerca in IA, non ha segnato progressi rapidi ultimamente.

A dimostrazione di questa fase di cambiamento, il fondatore e premio Nobel Demis Hassabis ha lasciato il ruolo di amministratore delegato di DeepMind per diventare presidente, assumendo un ruolo meno operativo. Al suo posto è salito Koray Kavukcuoglu, ex direttore tecnico, ora alla guida esecutiva.

Questi movimenti mostrano una riorganizzazione interna che potrebbe influire sugli sviluppi futuri di Google nel campo dell’intelligenza artificiale. Nel frattempo, il caso di Google Earth dimostra quanto sia complicato assicurare un uso responsabile delle nuove tecnologie, specialmente quando possono essere strumentalizzate per diffondere disinformazione o propaganda.

Gestire l’innovazione senza perdere di vista la responsabilità digitale resta una sfida enorme per Google in questo 2024, un anno che si preannuncia decisivo nel panorama tech globale.