Kong Charles advarer KI-utviklerne mot teknologiens ‘eksistensielle fare’

“De som har skapt disse teknologiene advarer nå i økende grad om at AI risikerer å utvikle mørkere evner — kanskje til og med å ta liv.” Setningen Kong Charles valgte var ikke en advarsel om hackere eller fiendtlige stater. Det var et speil, holdt opp for menneskene som bygger systemene, og advarselen inni den var en han tilskrev dem.

Det er den halvdelen av talen som det meste av dekningen sklir forbi. Linjen som spredte seg var den mykere fra de samme bemerkningene — “de eksistensielle farene ved at slike teknologier faller i feil hender.” Feil hender er en komfortabel ramme hvis du er den som sender verktøyet. Det skyver faren ut dit, hos en eller annen skurk som misbruker et nøytralt instrument, snarere enn i instrumentet selv eller selskapene som kappes om å gjøre det mer kapabelt. Charles valgte å ikke stoppe der.

I stedet pekte han risikoen tilbake til kilden. Skaperne er de som nå slår alarm, sa han — og satte deretter et spørsmål til rommet med en kant: “Må vi ikke ha tilstrekkelige kontrollmidler før det er for sent?”

Vekten av den setningen hviler på ett ord. Kontroll er det eneste som en slik samling faktisk ikke kan overlevere. Den har ingen lovfestet makt, setter ingen grense et selskap må følge, og bærer ingen straff for å ignorere den. Det som kom ut var en enighet om å forfølge “felles prinsipper” — en setning som beskriver en ambisjon, ikke en mekanisme. Lederne var, etter alle beretninger, takknemlige for samtalen. Takknemlighet er ikke en sikkerhetsmekanisme.

Det er en institusjonell inversjon her som er lett å overse under seremonien. En monark har ingen spak over Nvidia, OpenAI, Anthropic eller Google DeepMind. Han kan ikke lisensiere en modell, revidere en treningskjøring, eller bremse en utrulling. De som kan gjøre disse tingene — lovgivere, konkurranseregulatorer, ministeren som faktisk satt i rommet — var ikke de som innkalte. En skikkelse med symbolsk autoritet og ingen håndhevelsesmakt ba folkene med all den håndhevelsesfrie makten i verden om å være så snill å regulere seg selv. Det er omtrent den ordningen industrien har foretrukket hele tiden.

Sett på den måten gjorde toppmøtet byggerne en stille tjeneste. Det lot historien bli “feil hender,” rammeverket der teknologien er fin og bare misbruket er problemet. Det konverterte en advarsel om iboende kapasitet — maskinen som utvikler “mørkere evner” på sin egen bane — til en kjent debatt om onde aktører. Og det pakket hele greia inn i legitimitet fra en krone som, uansett hvor oppriktig, ikke kan tvinge frem en eneste linje av de sikkerhetstiltakene den ba om.

Samlingen fant sted på Dumfries House, kongens restaurerte georgianske eiendom i Ayrshire, Skottland. I rommet var Nvidias administrerende direktør Jensen Huang, Google DeepMinds grunnlegger Demis Hassabis, OpenAIs finansdirektør Sarah Friar, Anthropics globale sjef for offentlige anliggender Tino Cuéllar, Storbritannias kunstig intelligens-minister Kanishka Narayan, og Fader Paolo Benanti, Vatikanets rådgiver for teknologi-etikk. Charles var nøye med å også kreditere AIs løfte — spesielt innen medisin — og å ta opp miljøkostnadene. Han ba gjestene holde teknologien “fast i tjeneste for menneskeheten, samfunnet og den naturlige verden.” Ingen bindende forpliktelse forlot rommet med dem.

Så hørte de mektigste personene i feltet en statssjef beskrive produktet deres som i stand til, på egen hånd, å ta liv — og gikk ut med sitt foretrukne rammeverk intakt og en kongelig audiens å vise til. Virkemidlene for kontroll som kongen ba om, forblir nøyaktig der de var før han talte: i hendene han henvendte seg til, og ingen andres.

Tagger: OpenAI, artificial intelligence, AI safety, AI risks, King Charles