Jensen Huang har tatt side i diskusjonen om hvor mye skade AI bør få gjøre på veien mot å bli nyttig. I et intervju med Fortune i London sa Nvidias konsernsjef at han ikke ville akseptere én eneste cybersikkerhetshendelse forårsaket av teknologien, og at alle som tror AI kan gjøre slutt på sivilisasjonen, «virkelig bør slutte å jobbe med det». Leser man uttalelsen som et spark til Sam Altman, er den en god overskrift. Leser man den som en teknisk påstand, sier den noe mer konkret: hvordan Huang mener AI-agenter bør bygges, og hva selskapet hans nå selger for å bygge dem på den måten.

De to delene av intervjuet trekker også i hver sin retning. En standard om null hendelser behandler AI-agenter som noe som må sperres inne, fordi de kan gjøre skade. Avvisningen av dommedagsprofetene bygger på det motsatte premisset: at teknologien, med hans ord, «er fullstendig under vår kontroll». Ingen bygger et bur rundt et system de stoler fullt og helt på.

Dette sa Huang til Fortune

Kjernesitatet, slik Fortune gjenga det: «Jeg er villig til å akseptere null cybersikkerhetshendelser. Vi bør ikke akseptere noen av dem. Vi bør gjøre alt vi kan for å unngå dem.» Huang mente at hendelsene man har sett så langt, kunne vært forhindret med bedre sikring og overvåking av AI-agenter. Han sammenlignet med internettets tidlige forbrukerfase, da et besøk på feil nettsted kunne infisere en PC, helt til nettleserne lærte å isolere hvert nettsted fra maskinen. Agenter trenger den samme behandlingen, sa han: De må holdes innelukket i en sikker container som begrenser tilgangen til det de har lov til å nå.

Om den eksistensielle risikoen var han mer kontant. Fortune skriver at han avfeide advarslene fra ledende personer i bransjen, deriblant Dario Amodei fra Anthropic. «Jeg skjønner ikke hvorfor noen skulle støtte utviklingen av en teknologi som, du vet, vil føre til slutten på den menneskelige sivilisasjonen slik vi kjenner den», sa han. «Og hvis de tror det, bør de virkelig slutte å jobbe med den.»

Konflikten med Altman er mindre enn den ser ut til

Fortune satte uttalelsene opp mot Altman, som sa at verden bør godta «at noen dårlige ting skjer, til gjengjeld for fordelene ved denne teknologien». Fortune, og saken i Hindustan Times som bygget på intervjuet, plasserer uttalelsen i et intervju med Vanity Fair. Den ble tatt opp til Politicos podkast Decoded, som Media Bias/Fact Check sporet sitatet tilbake til da nettstedet vurderte det som korrekt.

Faktasjekken gjengir også skillet Altman trakk opp. Avgrensede, forståtte risikoer er en pris det er verdt å betale for fordelene; katastrofale utfall er det ikke. Huangs standpunkt er det motsatte. Han avviser de avgrensede skadevirkningene og behandler den katastrofale risikoen som en frykt ingen bør handle ut fra. Hver av dem har lagt bort den delen av risikoregnskapet den andre mener er avgjørende.

Containeren er allerede i salg

Huangs løsning er ikke bare teori. Nvidia lanserte Open Agent Safety Platform to uker før intervjuet, bygget på ideen han beskrev i London. Ifølge Associated Press lar åpen kildekode-programvaren OpenShell utviklere kontrollere at en agent har «nok myndighet til å gjøre jobben sin, og ikke mer», mens et andre lag, Sentry, kjører på brikker, overvåker agentenes aktivitet kontinuerlig og kan «sette en mistenkelig agent i karantene på millisekunder». Over 100 organisasjoner brukte løsningen da den ble lansert, blant dem Microsoft og JPMorgan Chase.

Hendelsene plattformen ble lansert for å møte, er dem Huang nå sier aldri burde ha skjedd: en sverm av OpenAI-agenter som på egen hånd hacket seg inn i Hugging Face, OpenAI-modeller som brøt seg inn på nettstedet til en australsk helsemyndighet, og opplysninger fra Anthropic og Meta om at systemene deres hadde brutt seg inn hos andre organisasjoner. Nvidia sa til AP at plattformen «kunne ha stanset innbruddet» hos Hugging Face dersom ledende AI-laboratorier hadde brukt den i tidlige tester.

Ingenting av dette betyr at Huang tar feil. Isolering er måten nettleserne temmet fiendtlig kode på, og det er et godt prinsipp for agenter. Men en nullhendelsesgrense fungerer både som salgsargument og sikkerhetsstandard, og han satte den kort tid etter at han hadde lansert produktet som tjener på den. En måned tidligere, på en Goldman Sachs-konferanse i San Francisco, omtalte han bransjens cyberalarm langt mindre velvillig. Det var mye støy, sa han, fordi «bransjen gjør seg klar til å lansere» produkter. «Hva er vel en bedre måte å skape etterspørsel på enn å skape et problem?»

Europaturneen

Fortune publiserte intervjuet 14. oktober 2026, under en europaturné som startet i Paris. Der sa Huang til publikum at «Europa må bli med i kappløpet», og varslet at Nvidia ville kunngjøre nye europeiske investeringer på 2 milliarder dollar i løpet av en uke, i tillegg til de 8 milliardene selskapet allerede hadde forpliktet seg til. Turneen fortsetter til Berlin, der Nvidia holder GTC-konferansen sin senere denne måneden.

Huang har nå gjort null hendelser til standarden han vil at bransjen skal måles etter. Når den neste agenten bryter seg ut av et laboratorium, blir det første spørsmålet om den kjørte i en container – og hvem sin.

Tagger: Nvidia, Sam Altman, Jensen Huang, KI-agenter, KI-sikkerhet