Googles toppsjef har sluttet å telle. På spørsmål om hvor mye av selskapets kode som nå skrives av AI, svarte Sundar Pichai at spørsmålet ikke lenger gir mening, fordi AI bidrar i alt sammen. I samme samtale tonet han ned det mange i bransjen forbereder seg på: AI som lager bedre versjoner av seg selv, mens mennesker skyves ut av prosessen.

Begge påstandene kan vise seg å stemme. Problemet er hvem som kontrollerer dem. Tallet Pichai la bort, var det ene målet utenforstående kunne sammenligne med tall fra andre selskaper. Det som erstatter det, og dokumentasjonen bak hans mer avmålte syn på selvforbedrende AI, kommer fra Googles målinger av Google.

Dette sa Sundar Pichai om AI og Googles kode

Pichai snakket med Alex Kantrowitz i Big Technology Podcast, som ble spilt inn ved Googles hovedkontor i Mountain View og også publisert av Kantrowitz som en skriftlig Q&A. Da Kantrowitz viste til den tidligere påstanden om at en fjerdedel av Googles kode kom fra AI, og spurte hva tallet er i dag, kalte Pichai det «meningsløst». Begrunnelsen var at alle deler av koden Google nå arbeider med, «er dypt påvirket av AI».

I stedet viste han til tall fra Gemini 4 Argon, Googles nyeste modell, som selskapet har gjort tilgjengelig for sine egne ingeniører. I løpet av de fire ukene siden lanseringen har Google, sa han, sett en økning på 30 prosent i CL-er, selskapets interne betegnelse på kodeinnsendinger, og en nedgang på en tredjedel i tilbakerullinger – endringer som må gjøres om etter at koden er tatt i bruk. «Vi følger nå med på dette ved hjelp av nyere måltall», sa han.

Det gamle måltallet forsvant ikke av seg selv. I et blogginnlegg i april anslo Google at AI sto for 75 prosent av den nye koden, opp fra 25 prosent i 2024 og 50 prosent høsten før, ifølge Semafor og ETV Bharat. Semafor påpekte den gangen at noen av påstandene var nærmest umulige å faktasjekke, og sammenlignet dem med Snap, som lå på 65 prosent, og Meta, som siktet mot lignende nivåer.

Derfor sier Pichai at selvforbedrende AI fortsatt ligger langt fram i tid

Da samtalen kom inn på rekursiv selvforbedring, eller RSI, framstilte Pichai svaret sitt som en presisering av medgründeren. Sergey Brin hadde omtalt RSI som en viktig bidragsyter til Argon, sa han, men «vi er fortsatt ganske langt unna den endelige formen for RSI». Deretter beskrev han hvor Google faktisk står: «Den riktige måten å beskrive det på er at du har RSI-sløyfer sammen med AI-forskere på ulike områder innen modellutvikling. Jeg vil si at du nærmest har agenter som på en eller annen automatisert måte hjelper AI-forskere med å samarbeide om å bygge disse modellene.»

Brin hadde gått lenger noen dager tidligere. På et rundebord om Argon som Google delte, sa han at selskapet «begynner å komme inn på denne RSI-tredemøllen», og at «forskerne våre og modellen nå jobber hånd i hånd for å lage neste versjon av modellen», slik Business Insider meldte. En rapport fra Gladstone AI som ble publisert denne måneden, sa at de fleste forskerne mediet hadde intervjuet hos Anthropic, OpenAI og Google DeepMind, forventer at RSI vil begynne innen tre til tolv måneder.

Googles sikkerhetsrapport gir Pichai støtte – basert på Googles egne tester

På papiret støtter funnene Pichai. Google DeepMinds sikkerhetsrapport for Argon finner «ingen betydelig ende-til-ende-akselerasjon av AI-forskning og -utvikling, verken drevet av AI eller på annen måte», og vurderer risikoen som «for tiden lav», meldte TNW. Rapporten sier at AI-agenter «skriver mesteparten av produksjonskoden og feilrettingene, selv om kodeendringer fortsatt må gjennomgås av mennesker før de sendes inn». Andelen pull requests som håndteres fullt ut av AI, steg fra 7,5 prosent i april til 11,9 prosent i september; rundt 88 prosent trenger fortsatt gjentatt veiledning fra mennesker eller kode skrevet av en person.

Disse funnene bygger på Googles egne måleverktøy. Terskelen for at AI automatiserer AI-forskning, vurderes mot en intern referansetest med 74 oppgaver som ingen utenfor selskapet kan kjøre. En analyse publisert på LessWrong viser til en formulering i selve rapporten: Av oppgavene Google opprinnelig undersøkte, «inneholdt omtrent en fjerdedel feil som hindrer enhver innsending i å bestå». Fordi mange kjøringer gikk over tidsgrensen, oppgir rapporten ikke noe punktestimat for Argon, som løste omtrent halvparten av kjøringene som ble fullført. Google sier at konklusjonen står seg selv om alle kjøringene som ikke ble fullført, hadde endt med suksess.

Menneskelig gjennomgang er porten sikkerhetsargumentasjonen bygger på. Tretti prosent flere kodeinnsendinger betyr tretti prosent flere endringer for dem som vokter denne porten, og måltallene Pichai valgte, teller leveranser og tilbakerullinger – ikke hvor grundig hver endring ble lest.

Pichais eget forslag: uavhengige kontrollører

Pichai avfeide ikke bekymringen. Han sa at det fortsatt er «tydelige mangler» i arbeidet med å sikre at AI-systemer følger menneskelige intensjoner, og at «det er rimelig å være bekymret». Etter hans syn er neste steg å utvikle standarder på tvers av bransjen, «inkludert muligheten til å evaluere ved hjelp av uavhengige evaluatorer», etter modell av regnskapsstandarder og eksterne revisorer. Regulering, la han til, «vil ende opp med å spille en rolle».

Målt mot den standarden er begge påstandene fra denne uken fortsatt ukontrollerte. Google teller sine egne endringslister, vurderer sine egne tilbakerullinger og gir sin egen forskningsreferansetest karakter.

Prosenttallet han kalte meningsløst, var grovt, men alle kunne sammenligne det med Snaps. Tallene som erstatter det, kan bare leses innenfra Google.

Tagger: Google, Gemini, Sundar Pichai, KI-programmering, Sergey Brin