OpenAI og Anthropic vil bremse AI — og det gir dem en vollgrav

Det slående med den plutselige entusiasmen for å bremse kunstig intelligens er ikke at folkene som bygger den nå vil ha bremser. Det er at bremsene de beskriver, er bremser som bare de selv har råd til. Når lederne for de mest verdifulle KI-laboratoriene er enige, nesten unisont, om at feltet beveger seg for fort, er sikkerhetsargumentet reelt – og det samme er forretningsargumentet som ligger stille under.

Utløseren var en oppfordring fra Anthropics Dario Amodei om å «pace frontier»: bremse hastigheten som modellevenes evner forbedres med, installere uavhengige evaluatorer inne i laboratoriene, og få de ledende aktørene i demokratiske land til å bli enige om felles sikkerhetsstandarder. Han rammet inn den offentlige motreaksjonen mot KI som, med hans egne ord, en tillitskrise. Innen et kort tidsrom sa Sam Altman at han var enig, og at OpenAI hadde diskutert akkurat dette; Elon Musk ga en to-ords tilslutning, «Dario har rett.» Dekningen behandlet det som en etterlengtet samvittighet som kom på en gang.

Les den samme planen som analytiker i stedet for sikkerhetsoffiser, og et annet bilde dukker opp. Innebygde tredjepartsanmeldere, sertifisert justeringstesting, publiserte risikorammer og rapportering av hendelser er ikke bare sikkerhetstiltak; de er faste kostnader. Og faste kostnader er det mest pålitelige konkurransevåpenet et stort selskap eier, fordi de rammer alle likt i dollar og ingen likt i smerte.

Tenk på regnestykket. De største amerikanske skyleverandørene og KI-infrastrukturleverandørene har forpliktet seg til rundt 660 til 690 milliarder dollar i kapitalutgifter for det kommende året, med Amazon alene nær 200 milliarder og Alphabet, Meta og Microsoft hver i hundremilliardersklassen eller nær den. Mot balanser som disse er et etterlevelsesregime – et team med innebygde evaluatorer, et årlig sikkerhetsrammeverk, en straff som California begrenser til en million dollar per brudd – en avrundingsfeil. For en oppstart som prøver å nå frontier, er det hele rullebanen.

Dette er ikke lenger hypotetisk. Californias SB 53 definerer allerede en «stor frontier-utvikler» med to porter: modeller trent over en veldig høy datakraftterskel, og mer enn en halv milliard dollar i inntekter. Disse firmaene må publisere sikkerhetsrammeverk og rapportere kritiske hendelser på stramme tidsfrister. I Europa krever AI-lovens artikkel 55 at leverandører av de mest kapable generelle modellene kjører motstandertesting, reduserer systemisk risiko og rapporterer alvorlige hendelser. Gulvet blir støpt; spørsmålet er hvem som er høy nok til å stå på det uten å merke det.

Det klareste tegnet er hvem som ikke ber om bremser. Planen navngir aldri sine naturlige tapere, men de er lette å identifisere: laboratoriene hvis hele modell er å gi vektene bort – Meta, Frankrikes Mistral, Kinas DeepSeek og Alibaba. Som en avvikende analyse uttrykte det, er disse «de fire navnene essayet aldri trykker», produsentene av de gratis modellene en betalende kunde ellers kunne laste ned i stedet for å leie en API. Du kan ikke sertifisere justeringen av en modell som hvem som helst kan endre på en ettermiddag, så et standardregime rettet mot frontier lander hardest på åpne vekter. Og den åpne leiren vinner akkurat de brukerne som de etablerte aktørene heller vil beholde: en kinesisk åpen modell, Qwen, teller nedlastninger i milliardene der Metas Llama teller i hundremillioner.

Ingenting av dette er nytt. Det er det eldste trekket i enhver regulert industri – den etablerte aktøren ønsker regelboken den har råd til velkommen, fordi en kostnad som er triviell på dens bøker er en vegg for en rival. Økonomer har et enkelt navn på det, reguleringsfangst, og det krever ikke ond tro. Et sikkerhetsargument kan være helt oppriktig og fortsatt fungere som en barriere for inntreden. Her er begge deler sanne på samme tid.

For Europa er innsatsen skarpere enn det ser ut. Kontinentets ene troverdige frontier-utfordrer, Mistral, er nettopp et åpent vekt-laboratorium, og dets spanske og bredere europeiske kunder – oppstartene som bygger produkter på billige, modifiserbare modeller – er de som taper mest hvis det globale etterlevelsesgulvet skrives rundt fire amerikanske etablerte aktører. En regelbok designet i San Francisco og ratifisert i Brussel kan beskytte publikum og trekke stigen opp bak lederne på samme tid.

Så ønsk sikkerhetsvendingen velkommen: risikoene er reelle og evaluatorene er etterlengtede. Men se hva som kommer neste. Hvis de endelige reglene lander nøyaktig der de fire gigantene kan betale og ingen mindre kan, vil nedbremsingen ikke ha pacet frontier så mye som den har inngjerdet den.

Tagger: OpenAI, Anthropic, AI regulation, Mistral, open-weight models