Demis Hassabis om hvem som skal betale for AI-sikkerhet: «Finansieringen må være betydelig og stort sett komme fra industrien»

Demis Hassabis har brukt året på å argumentere for at de kraftigste AI-systemene bør granskes før de når offentligheten, av et uavhengig organ modellert etter vakthunden som overvåker Wall Street-meglerne. Det vanskeligere spørsmålet er ikke om en slik dommer bør finnes. Det er hvem som betaler for det – og i en enkelt setning svarte sjefen for Google DeepMind også på det.

«Finansieringen må være betydelig og i hovedsak komme fra industrien, for å tiltrekke seg teknisk talent i verdensklasse og skaffe de nødvendige beregningsressursene for testing i stor skala,»

Hassabis skrev denne linjen i rammeverkessayet som legger frem forslaget hans, sitert av Malay Mail. Lest raskt høres det ut som ansvar: sikkerhetstiltak koster penger, og selskapene som bygger teknologien bør ta regningen fremfor å la offentligheten finansiere opprydningen. Lest som en mekanisme er det den bærende linjen i hele planen – den som avgjør hvis interesser dommeren til slutt beskytter.

Spenningen ligger inne i setningen. Hassabis vil at organet skal være uavhengig. Han vil også at det skal finansieres, «i hovedsak», av nettopp den industrien det skal dømme. Disse to målene trekker i motsatte retninger, og historien til modellen han valgte viser hvilken som pleier å vinne. Financial Industry Regulatory Authority, malen hans, betales av meglerhusene den fører tilsyn med. Senator Elizabeth Warren har i årevis argumentert for at FINRA opptrer «mer i interessen til meglerfirmaene som betaler regningene enn de individuelle investorene den er ment å beskytte.»

Innvendingen er ikke marginal. Nader Henein, analytiker og visepresident i Gartner, kaller selvregulering rett og slett «ikke levedyktig», fordi de fleste leverandører mangler kapasitet til det og ordningen «nødvendigvis» avler interessekonflikter. Uavhengig analytiker Carmi Levy gikk lenger og beskrev planen som «et selvsentrert veikart for en industri som er opptatt av å kappløpe» fremover uansett skade. Selv sympatiske stemmer vil ha en brannmur: Yoshua Bengio sier han forstår pragmatismen, men insisterer på «en klar og presis veikart for overgangen fra en frivillig til en obligatorisk modell.»

Ingenting av dette gjør Hassabis til en aktør med vond vilje. Han leder laboratoriet bak AlphaFold, systemet som forutsa formene til proteiner og endret hvordan biologi gjøres – en merittliste som gir advarslene hans om frontlinje-egenskaper reell vekt. Det er nettopp det som gjør setningen verdt å dvele ved. Den mest troverdige tekniske stemmen i rommet er også den som foreslår dommeren, utformer reglene og ordner budsjettet fra de samme selskapene som skulle sitte til eksamen. Frivillig innlevering, et kort vurderingsvindu før utgivelse, industripenger: hver innrømmelse er rimelig i seg selv, og sammen beskriver de et organ som labene komfortabelt kunne leve med.

Et sikkerhetsregime er bare så uavhengig som budsjettet. Setningen som vil avgjøre om dette beskytter offentligheten eller labene, er ikke den om testing av frontlinjemodeller. Det er den stille om hvem som signerer sjekkene.

Tagger: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI