A Google alig két nappal a bevezetés után visszavonta a Google Earth új AI-funkcióját, amely a Nano Banana 2 képgenerátort integrálta a műholdképes alkalmazásba. A lépésre azért került sor, mert a felhasználók percek alatt megmutatták: a funkció tökéletes eszköz a megtévesztő műholdképek gyártására.
A visszavont funkció lehetővé tette, hogy a felhasználók szöveges utasítással módosítsák a műholdfelvételeket: például Pompeii romjait eleven római utcaképpé alakítsák, vagy egy üres telekre építkezést helyezzenek. A probléma az volt, hogy ugyanez a technológia alkalmas menekülttáborok hamisítására, bombatámadások szimulálására vagy más, valós eseményeknek tűnő, ám teljesen kitalált jelenetek létrehozására is.
A Google állítása szerint a generált képeken volt „AI által generált” címke, és más felhasználók nem látták ezeket közvetlenül a Google Earthben. A képernyőképek azonban gyorsan elterjedtek, és a cég kénytelen volt lekapcsolni az új funkciót.
A visszavonás előtt azonban a felhasználók már demonstrálták, milyen könnyű politikai vagy humanitárius katasztrófákat hamisítani. Egy újságíró például egy gázai kórház bombázását vagy egy mexikói határnál kialakult menekültkaravánt generált – mindezt élethű műholdképi környezetben.
