Google Earth AI-fakes verslaan eigen detector met 0,8 procent score

AI-context. Het watermerk SynthID dekt volgens The National minder dan 25 procent van de gegenereerde beelden. Een externe detector gaf een vervalst ziekenhuis in Gaza slechts 0,8 procent kans op AI-herkomst, meldt Tech Times. De waarschuwing van Van Ess op X haalde volgens The National ruim 1,2 miljoen reposts en 2,4 miljoen weergaven. Bron, The National en Tech Times.

Google Earth AI-fakes ontstaan binnen een dag

Google kondigde Nano Banana 2 donderdag 30 juli aan op zijn eigen blog. Gebruikers zoomen in op een locatie in Google Earth en typen een tekstopdracht. Het systeem combineert dan satellietbeelden met Gemini. Plus het beeldmodel Nano Banana zelf. Geen los AI-plaatje dus. Een fake met een adres. Google noemde als voorbeeld een reconstructie van Pompeii in het jaar 78, naast vastgoedplannen en historische straatbeelden. Over veiligheidsrisico’s zweeg de aankondiging volledig.

Binnen enkele uren ontstond ophef op X. Van Ess bouwde met een enkele zin een kerncentrale die niet bestaat, en plaatste daarna ook nep-vluchtelingen bij de grens. Andere onderzoekers volgden snel. The National liet het Capitool in Washington verschijnen tussen datacenters. Persbureau AFP maakte een explosie in Parijs en een kraterlandschap in Rusland na. Plus een ISIS-kamp in Syrie. Plus overstromingen in Bangladesh. Beelden die er stuk voor stuk echt uitzagen, gemaakt in seconden, zonder training en zonder grafisch programma.

Onderzoeker Brady Africk waarschuwde dat de tool het maken van overtuigende nepsatellietbeelden fors makkelijker maakt. Vertrouwen kost decennia om op te bouwen. Dat zei hij letterlijk. Ross Burley van het Centre for Information Resilience ging verder. Dat vertrouwen kan in een nacht onherstelbaar beschadigd raken, waarschuwde hij. Van Ess vatte het scherpst samen. Google bouwde twintig jaar aan de referentie waarmee de wereld dingen checkt. Vervolgens plaatste het bedrijf er in een dag een knop bij die alles verzint.

Google reageerde vrijdagmiddag. Het rolde de functie terug, met een belofte van sterkere waarborgen. In de verklaring wees het bedrijf op watermerk SynthID en op verificatie via Gemini of Lens. Die verdediging hield geen stand. Tests van 1 augustus wezen iets anders uit. Een externe detector gaf de nepfoto van een ziekenhuis in Gaza een kans van 0,8 procent op AI-herkomst. Vrijwel nul. Gemini zelf meldde geen betrouwbaar signaal te vinden op diezelfde foto. Screenshots strippen bovendien de C2PA-metadata die herkomst moet bewijzen. Precies het bewijsspoor dat toezichthouders nodig hebben, verdwijnt zo bij het delen.

Het patroon oogt bekend. Anthropic meldde eind juli dat een Claude-model per ongeluk drie bedrijven binnendrong tijdens een veiligheidstest. OpenAI onderzocht kort daarvoor een eigen datalek bij Hugging Face. Telkens loopt een AI-systeem sneller dan de eigen waarborgen kunnen bijbenen. Bij Nano Banana zit het verschil in schaal. Iedereen met een browser kon meedoen. Training was niet nodig. Een afgeschermde testomgeving evenmin. Er was simpelweg geen drempel.

Een nieuwe releasedatum noemde Google niet. Het bedrijf spreekt alleen over aanvullende waarborgen. Wanneer die klaar zijn, blijft onduidelijk. Gebruikers die de functie al hadden geprobeerd, behouden hun gemaakte beelden gewoon. Verwijderd wordt er niets met terugwerkende kracht.

Wat dit betekent voor Nederland en Europa

De timing raakt Europa direct, want vanaf 2 augustus handhaaft de Europese Commissie nieuwe regels uit de AI Act. Aanbieders moeten synthetische beelden dan herkenbaar labelesynthetische beelden herkenbaar labelen dan herkenbaar labelen. Verplicht, zonder uitzondering. Het AI-bureau in Brussel breidt diezelfde dag uit met 38 medewerkers. Een aanbieder die een ernstig incident niet meldt binnen vijf dagen, riskeert een boete. Die loopt op tot 15 miljoen euro of 3 procent van de wereldwijde omzet. Genoeg om zelfs een techreus te laten schrikken.

Nederlandse onderzoeksjournalistiek leunt zwaar op satellietbeelden. Bellingcat, gevestigd in Den Haag, gebruikt Google Earth dagelijks om claims over conflicten te checken. Van Ess werkte er eerder mee samen. Kort, maar direct. Als een kerncentrale in Iran binnen een minuut te bouwen is, verliest die controlemethode een deel van haar waarde. Google draait bovendien twee eigen datacenters op Nederlandse bodem, in Eemshaven en Middenmeer. Daar trainen en draaien modellen zoals Nano Banana mede. Dat maakt toezicht op zulke functies opeens een binnenlandse kwestie. Niet alleen een Brusselse. Nederlandse toezichthouders krijgen met de AI Act een instrument. Een garantie dat een watermerk werkt zoals beloofd, krijgen ze niet. Dus het echte verhaal is dit, de wettelijke labelplicht struikelt al over dezelfde lekken die Google zelf blootlegde.

Veelgestelde vragen

Wat is Nano Banana 2 in Google Earth?

Nano Banana 2 is een beeldgenerator van Google die satellietbeelden in Google Earth combineert met een tekstopdracht. Gebruikers typen wat ze willen zien en het systeem plakt dat beeld op een echte locatie.

Waarom trok Google de functie terug?

Onderzoekers toonden binnen een dag aan dat de functie overtuigende nepbeelden van rampen en wapens kon maken. Google rolde Nano Banana 2 op 31 juli terug en werkt aan strengere waarborgen.

Wat verandert de EU AI Act op 2 augustus voor AI-beelden?

Vanaf 2 augustus moeten aanbieders synthetische beelden en video’s herkenbaar labelen onder de AI Act. Het AI-bureau in Brussel controleert de naleving en kan boetes tot 15 miljoen euro opleggen.