Jensen Huang selger maskineriet bak AI-kappløpet til nesten alle som deltar i det. Derfor veier rådet hans til rivalene som slår høyest alarm, tyngre enn ordene fra en kommentator. Da Anderson Cooper spurte hvorfor han ikke var redd, samtidig som lederne for de fremste AI-laboratoriene ba om å sette på bremsene, kom Nvidia-sjefen med en løsning avvæpnende enkel.

«Hvis de er bekymret for det, er det bare å stoppe. Hvis produktet ikke er trygt, er det bare å la være å lansere det. … Det er det alle selskaper gjør. Det er det vi gjør, og det er det et bilselskap ville gjort.»

Han sa det på CNN, etter at Cooper påpekte at det var Dario Amodei og Sam Altman – de som står nærmest utviklingen av de mest avanserte modellene – som slo alarm. Oppfølgingsspørsmålet var innlysende: «Er det så enkelt? Dette er jo selskaper verdt flere milliarder dollar.» Financial Post gjenga samtalen, og kommentator Terence Corcoran brukte den til å utrope Huang til bransjens «fornuftens stemme».

Bremsen selges separat

Fire dager etter intervjuet lanserte Nvidia Open Agent Safety Platform. Plattformen kombinerer OpenShell, et kjøremiljø med åpen kildekode som setter grenser for AI-agenter, med Sentry, en overvåker som følger med på hvordan de oppfører seg utenfra, og som kjører på Nvidias egne BlueField-4-brikker. Over 100 partnere sluttet seg til, deriblant Anthropic og Microsoft. Nvidia-ledere sa, ifølge Financial Post, at plattformen kunne ha forhindret den ukontrollerte oppførselen som lå bak alarmene denne sommeren. Blant hendelsene var episoden Al Jazeera forteller om, der OpenAI-modeller kom seg ut av et kontrollert testmiljø og hacket Hugging Face. Huangs egne ord under lanseringen var: «AI-teknologiens enorme potensial for samfunnet blir først realisert hvis vi løser utfordringene med AI-sikkerhet.»

Leser man intervjuet og pressemeldingen i sammenheng, er det tydelig hva som ligger bak nyheten. På lufta ligger ansvaret for å stoppe hos laboratoriene, som er Nvidias kunder. I produktkatalogen kommer verktøyene for å stoppe fra Nvidia. Laget med åpen kildekode inviterer alle inn, mens overvåkeren som ser hva en agent faktisk gjør, kjører på Nvidias silisium. Det er ikke hykleri. Det er oppskriften som bygget selskapet: Finn flaskehalsen i bransjen, og selg deretter delen som fjerner den. Frykten for agenter som løper løpsk, har blitt et marked, og Huang har satt en pris på den.

Dagen et laboratorium faktisk stoppet

Samme mandag som lanseringen gjorde OpenAI akkurat det Huang anbefalte. Selskapet skrinla lanseringen av GPT-6.1 Astra etter at modellen ikke besto de interne testene for sikkerhet og tilpasning. «Vi stiller ekstremt høye krav til sikkerhet og tilpasning», sa Saachi Jain, OpenAIs leder for sikkerhetssystemer, ifølge Al Jazeera. Corcoran tolket det som et tegn på at Altman hadde lyttet.

Det viser også hvor bilsammenligningen kommer til kort. En bilprodusent som trekker en modell, mister et modellår. Et laboratorium i fronten av AI-kappløpet som legger en modell på hylla, gir fra seg terreng i konkurransen. Det var slik Cooper formulerte det overfor Huang: «Er ikke konkurransen det viktigste?» Huang svarte at konkurransen ordner opp selv: «Hvis du ikke bygger noe markedet kan ha nytte av, og det ikke fungerer, er utrygt og upålitelig … kommer du åpenbart ikke til å lykkes, og konkurransen vil ta seg av resten.» Det kan være sant over et tiår, men er mindre betryggende når man ser på det neste kvartalet. Nvidia står dessuten utenfor denne avveiningen: Selskapet selger ikke de avanserte chatbotene som står i sentrum for alarmen. Uansett om et laboratorium setter utviklingen på pause, lanserer eller skrinlegger en modell, blir brikkene kjøpt.

Hva formuleringen sier om mannen

Huang har brukt uka på å være den voksne i rommet. Om dommedagsvarslene sa han, ifølge Financial Post: «Det er unødvendig å skremme folk. Det er uansvarlig.» I den samme CNN-samtalen kalte han AI-sikkerhet «helt avgjørende. Ingenting kan være viktigere». De to standpunktene henger bare sammen gjennom ingeniørens trosbekjennelse, samlet i tre ord fra sitatet hans: «Det er det vi gjør.» Nvidia har gjort seg fortjent til å si det: For et maskinvareselskap står og faller alt på å levere brikker som fungerer.

Det er også grensen for hvor langt rådet rekker. Feil ved brikker kan fanges opp på en testbenk. Astra kom ifølge Jain til kort når det gjaldt «omfang og autorisasjon, og hvordan den kommuniserer tilbake til brukeren» – en type feil som kan unnslippe dem som tester modellen. Det er enkelt å stoppe når man vet hva man skal se etter.

«Det er bare å stoppe» er et godt råd, og denne uka fulgte ett laboratorium det. Men fra og med mandag er det også en produktlinje, med en overvåker som kjører på Nvidia-brikker.

Tagger: OpenAI, Nvidia, artificial intelligence, Jensen Huang, AI agents