OpenAI-sjef Sam Altman skisserer tre sluttspill for KI, to av dem fra 2023

OpenAIs toppsjef Sam Altman har gitt de ansatte et veikart for hvordan kappløpet mot superintelligens kan ende. Det mest talende er hvor lite av det som er nytt. Av de tre mulige utfallene han gikk gjennom med medarbeiderne, ligger to tett på ideer selskapet hans selv satte på trykk for flere år siden. Ingen av dem ble noen gang realisert. Det tredje alternativet, det som havnet i overskriftene, trakk han bare fram for å avvise det.

Ser man forbi merkelappene, besvarer alle alternativene det samme spørsmålet: Hvem får kontroll over regnekraften som de mest avanserte modellene kjører på? Altman skal også ha forklart hvorfor dette spørsmålet stadig blir skjøvet ut i tid.

Dette fortalte Sam Altman OpenAI-ansatte om hvordan AI-kappløpet kan ende

The Information omtalte først den interne presentasjonen, med henvisning til personer med kjennskap til den. Siden har The Decoder, Forbes og Latin Times fulgt opp saken. Opplysningene bygger på anonyme kilder. Alternativ én er en internasjonal organisasjon etter modell av Det internasjonale atomenergibyrået, som skal håndheve sikkerhetsstandarder for de ledende AI-laboratoriene: inspisere systemer, kreve revisjoner og følge med på bruken av regnekraft og energi. To personer fortalte The Information at Altman så ut til å støtte forslaget.

Alternativ to kalte han «Demis-planen», etter Google DeepMind-medgrunnlegger Demis Hassabis, som for rundt ti år siden lanserte ideen om en CERN-lignende institusjon for AI. I Altman-versjonen slår de ledende laboratoriene seg sammen, eller arbeider under samme paraply, og organisasjonen leverer modeller til land som samarbeider.

Alternativ tre er «Eliezer-planen», oppkalt etter AI-sikkerhetsteoretikeren Eliezer Yudkowsky. En utvikler kommer først fram til selvforbedrende AI og bruker den påfølgende økonomiske makten til å frata alle rivalene regnekraft. Med formuleringen som ble kjent, skulle den «smelte alle andres GPU-er». «Jeg synes åpenbart at den er forferdelig», skal Altman ha sagt, og lagt til at han tok den med for å «gjøre oversikten komplett».

OpenAI hadde allerede skrevet ned det meste av denne menyen i 2023

En tilsynsmyndighet er det eldste punktet på lista. I et innlegg signert Altman, OpenAI-president Greg Brockman og daværende sjefsforsker Ilya Sutskever argumenterte selskapet for at verden sannsynligvis «etter hvert vil trenge noe i retning av et IAEA for superintelligensarbeid» – en myndighet som kan «inspisere systemer, kreve revisjoner» og begrense utrulling når en bestemt kapasitet eller grense for regnekraft er nådd.

Det samme innlegget skisserte to andre veier. Store regjeringer, het det, «kan opprette et prosjekt som mange av dagens initiativer blir en del av» – en nær slektning av sammenslåingen Altman nå knytter til Hassabis. Eller bransjen «kan bli enige i fellesskap» om at «veksten i AI-kapasiteten helt i front begrenses til en bestemt takt per år».

Den siste formuleringen innebærer altså en fartsgrense. Ifølge The Decoder skal Altman internt ha klaget over at det finnes for få gjennomførbare forslag til en «fartsgrense» for AI-utviklingen. Selskapet hans publiserte selv et slikt forslag. Det som aldri kom på plass, var noen med makt til å håndheve det.

Derfor blir tilsynsmyndigheten værende på papiret: OpenAI sier at selskapet ikke kan bremse

Begrunnelsen kom fram i det samme møtet. Altman skal ha fortalt de ansatte at de to første planene krever omfattende koordinering, og at OpenAI ikke har råd til å gi fra seg terreng nå, når både selskapet og Anthropic nærmer seg børsnotering. Crypto Briefing trakk fram investorenes logikk: Selskaper som forbereder en børsnotering, skjerper konkurransefortrinnet sitt – de gir det ikke fra seg til et konsortium.

Et IAEA for AI forutsetter dessuten at Washington og Beijing godtar inspektører i sine mest sensitive laboratorier. Foreløpig er selv et amerikansk forslag om at de to landene skal varsle hverandre om farlige AI-hendelser, ifølge Forbes, bare en skisse og ikke en avtale.

Det laboratoriene bygger i stedet, er en FINRA – ikke et IAEA

Styringsprosjektet som faktisk er under arbeid, samsvarer ikke med noen av Altman-alternativene. OpenAI, Google og Anthropic arbeider med en selvregulerende gruppe, Standards Authority for Frontier AI, etter modell av FINRA, det private organet som fører tilsyn med amerikanske meglere. Latin Times beskriver et rammeverk for testing før lansering, rapportering av hendelser og godkjenning av revisorer, men uten bindende håndhevingsmyndighet. De tre laboratoriene er fortsatt uenige om hvem som skal teste nye modeller. Meta-sjef Mark Zuckerberg og Nvidias Jensen Huang mener at slike regler først og fremst beskytter de etablerte aktørene, og et amerikansk antitrustsøksmål hevder allerede at sikkerhetssamarbeidet mellom laboratoriene utgjør et kartell.

Merkelappene fortjener også en ny vurdering. Yudkowskys opprinnelige bilde, «brenn alle GPU-ene», var et tankeeksperiment om hvor drastisk en handling et system som følger menneskelige verdier måtte gripe til for å stanse et hensynsløst kappløp. Han skrev at dette ikke er noe han faktisk ville ønsket at man gjorde. Altmans «Eliezer-plan» gjør denne nødbremsen om til en monopolseier. Ifølge The Decoders omtale av saken skal én kilde ha sagt at kommentaren ble tolket som et stikk mot en konkurrent, på grunn av Yudkowskys bånd til Anthropic.

Ifølge The Information planlegger OpenAI å avgjøre innen ett år hvilken vei selskapet skal gå. Bransjens standardiseringsorgan tar sikte på å starte opp sent i 2026 eller tidlig i 2027.

Fram til OpenAI bestemmer seg, fortsetter selskapet å kjøre nedover den eneste veien som ikke sto på lista hans: selve kappløpet.

Tagger: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky