Google trakk satellitt-AI-verktøy tilbake et døgn etter lansering

Google Earth har brukt to tiår på å bli den visuelle referansen for alle som prøver å verifisere hvordan den fysiske verden faktisk ser ut. Journalister bruker det til å dokumentere konfliktsoner. Menneskerettighetsforskere bruker det til å spore opp interneringsleirer. FNs inspektører bruker det fra kontorets trygge rammer. Google ga det nylig noe nytt: en AI-bildegenerator direkte integrert i satellittkartet.

Verktøyet, bygget på Nano Banana 2 – Googles egen bildemodell – fungerte som lovet. Brukere skrev en tekstmelding – «vis Pompeii før utbruddet» eller «gjør denne kystlinjen om til en infografikk» – og AI-en la generert bildemateriale over de korresponderende virkelige koordinatene. Legitime bruksområder var lette å forestille seg. De farlige viste seg å være like enkle å utføre.

Henk van Ess, en undersøkende journalist, var blant de første til å dokumentere problemet. Innen få timer etter lanseringen genererte han et fiktivt atomkraftverk over en lokasjon i Iran. Resultatet var overbevisende nok til å illustrere risikoen. Mer bekymringsfullt var det som skjedde da han testet den innebygde sikkerhetsmekanismen: Google hadde lagt inn SynthID-vannmerker – selskapets AI-autentiseringslag – i hvert genererte bilde. Van Ess omgikk det ved å fotografere skjermen i stedet for å ta et skjermbilde. Tredjeparts AI-deteksjonsverktøy vurderte det resulterende bildet til å være bare 1 prosent sannsynlig AI-generert.

Googles forsvar var teknisk korrekt, men praktisk talt utilstrekkelig. Selskapet bemerket at genererte bilder «ikke dukket opp i hovedopplevelsen av Google Earth for andre å se» – de var øktspesifikke, kun synlige for skaperen. Det skillet faller bort når du fotograferer skjermen og deler resultatet. Et fabrikkert satellittbilde av et sensitivt anlegg, som sirkulerer uten annet enn en bildetekst, kan ikke skilles fra et som er laget for å bedra.

Det ligger en strukturell spenning her som sterkere sperringer kanskje ikke klarer å løse fullt ut. Den samme kapasiteten som gjør AI-bildegenerering nyttig, gjør den også farlig når den underliggende kilden er betrodde satellittdata. Den tilliten avhenger av antakelsen om at det Google Earth viser, gjenspeiler fysisk virkelighet. I det øyeblikket generert innhold kan legges over virkelige koordinater – og autentiseringslaget overvinnes av et kamera – får den antakelsen en sprekk som ikke lukker seg når funksjonen tas offline.

Funksjonen ble fjernet 31. juli, mindre enn 24 timer etter lansering. Google erkjente å ha sett «skjermbilder av generert bildemateriale som ser ut til å bryte med retningslinjene våre» og forpliktet seg til å implementere «sterkere sperringer» før en eventuell relansering. Ingen tidsramme ble gitt. Tidspunktet legger til enda et lag: fra og med 2. august trer EUs AI-aktas fulle håndhevelsesbestemmelser i kraft over hele Europa, noe som gjør merking av AI-generert innhold som kan villede brukere obligatorisk – inkludert, nettopp, syntetisk bildemateriale innebygd i betrodde informasjonskilder.

Tagger: Google, AI, deepfakes, Google Earth, satellittbilder, desinformasjon