Teknologi

Google kutter fristene for sikkerhetshull fordi KI gjør oppdateringer om til angrep

Adrian Kessler
Legg oss til på Google

Hver sikkerhetsoppdatering forteller angriperne hvor hullet var, og noen av dem har nå programvare som leser oppdateringen for dem. Googles trusseletterretningsteam fant et kriminelt opplegg som sammenlignet webapplikasjoner før og etter en sikkerhetsoppdatering, fant ut hva som var blitt reparert, skrev et angrep som fungerte, og satte det i gang – helt uten menneskelig medvirkning. Googles egne sikkerhetsforskere i Project Zero svarer med å gi programvareleverandørene kortere tid til å rette feilene de rapporterer.

For alle som trykker på «minn meg på det senere» når en oppdatering dukker opp, har den trygge utsettelsen krympet til nesten ingenting. Project Zero regner nå med at angripere kan slå til idet en oppdatering lanseres – en realistisk modell for hvordan kriminelle opptrer. Den gamle tanken om en rolig periode etter en feilretting, mens folk får installert oppdateringen, holder ikke lenger når en maskin kan omvendt konstruere oppdateringen raskere enn de fleste rekker å åpne innstillingene sine.

Siden 2021 har Project Zero gitt leverandører 90 dager på å rette en innrapportert sårbarhet, pluss 30 ekstra dager med «modningstid» slik at brukerne får installert oppdateringen. Den ekstra måneden er nå fjernet. Detaljer om sårbarheten publiseres 90 dager etter rapporteringen, enten den er rettet eller ikke, og fristen skal strammes inn ytterligere to ganger. Teamet fjerner også de fleste særordningene, blant annet fristutsettelser. Ifølge teamet har KI gjort at det selv finner flere sårbarheter i uken i produkter der det tidligere fant noen få i året – for mange til å forhandle om én og én.

Anthropic, som står bak modeller som nå finner slike feil, beveger seg i samme retning. Frontier Red Team skal publisere sårbarheter med høy eller kritisk alvorlighetsgrad 30 dager etter at de er rapportert, i stedet for 90, og andre sårbarheter etter 45 dager. Hvis en vedlikeholder ikke følger opp den første rapporten, kontakter teamet en ekstern koordinator etter 15 dager, i stedet for 30. «En frist på 90 dager ga mening da man kunne regne med at en sårbarhet forble hemmelig i månedsvis. Det tror vi ikke lenger», skrev selskapet. Det la til at det blir stadig mer sannsynlig at en feil én modell finner, også blir funnet av en annen.

Angrepet som vekket Googles bekymring, omtales i selskapets nyeste rapport, AI Threat Tracker. Etterforskerne fant en eksponert testserver som kjørte et rammeverk med flere KI-agenter kalt exploit_agent. Det var bygget med verktøy på russisk og koblet til både kommersielle KI-modeller og modeller som kjørte lokalt. Serveren sammenlignet fortløpende ulike versjoner av populær programvare for nett, og der lå det også data som var stjålet fra ofre. Ifølge The Register viste telemetridata at operatøren gikk etter franske nettsteder innen medier, underholdning og utdanning. Google lister også opp andre KI-rammeverk brukt i kriminelle angrep, blant annet ARTEX, CAIRN, HexStrike AI og PentAGI. De brukes av både profittmotiverte kriminelle grupper og grupper som mistenkes for spionasje.

Kortere frister får ikke i seg selv noen til å installere oppdateringer raskere. Leverandører fortalte Google at en umiddelbar overgang til 30 dager kan gi angriperne tilgang til feil som ennå ikke er rettet, mens selskapene fortsatt bygger opp prosessene sine for feilretting. De frykter også at team kan bli presset til å haste gjennom Project Zero-rapporter før mer alvorlige feil fra andre forskere. Derfor innfører Google endringen trinnvis. Anthropic gjør unntak for kritisk infrastruktur og for feil som krever endringer i en teknisk standard, og retningslinjene gjelder ikke KI-funn som ingen mennesker har gjennomgått. Google publiserte på sin side advarselen sammen med en presentasjon av sitt eget betalte forsvarsprodukt, Google AI Threat Defense.

Ingen av retningslinjene er begrenset til en bestemt region. De gjelder alle selskaper som lager programvare teamene undersøker, fra mobilprodusenter til åpen kildekode-prosjekter drevet av frivillige. Dermed rammer presset produkter som brukes i alle markeder. Det tregeste leddet er fortsatt det Project Zero kaller «patch gap»: tiden fra en feilretting blir lansert til oppdateringen faktisk når enheten din. Hvor lang tid det tar, kan avhenge like mye av mobilprodusenter, operatører og apputviklere som av deg.

Project Zeros 90-dagersregel trådte i kraft 13. november 2026. 2. februar 2027 reduseres fristen til 60 dager, og 3. januar 2028 til 30. Anthropics frister på 30 og 45 dager gjelder rapporter som sendes inn 1. januar 2027 eller senere. Vedlikeholdere som allerede har overskredet den gamle fristen på 90 dager, har fått 30 dager til. Begge teamene har et eget, raskere løp for sårbarheter som allerede utnyttes aktivt – i Anthropics tilfelle sju dager.

I 2028 kan det allerede finnes en ferdig angrepskode for oppdateringen du utsetter til i morgen.

Tagger: , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.