OpenAI-sjef Sam Altman i FN: «KI skal bygges for mennesker, ikke bare for å få maskinene til å gå raskere…»

Sam Altman har i årevis spilt to roller på én gang: mannen som bygger den kraftigste kunstige intelligensen på markedet, og mannen som advarer verden mot den. Foran FNs sikkerhetsråd grep OpenAI-sjefen til én setning for å holde de to rollene fra hverandre – og isolert sett er det en god setning.

«KI må bygges for mennesker, ikke bare for å få maskineriet til å gå raskere for sin egen skyld.»

Han sa det til Sikkerhetsrådet i uttalelser gjengitt av Analytics Insight, som del av et større resonnement om at kraftige systemer må forbli under menneskelig kontroll, og at reglene for dem bør utformes av myndighetene – ikke bare av laboratoriene. Formuleringen trekker en grense: På den ene siden KI bygget for mennesker, på den andre KI bygget for å øke farten for sin egen skyld. Med nesten hvilken som helst avsender ville det fremstå som et enkelt prinsipp. Fra toppsjefen i selskapet som gjør mest for å få dette maskineriet til å gå raskere, er det også en påstand om hvem som får bestemme hvor grensen skal gå.

Altman er en sjelden skikkelse som både er arkitekt og alarmist. På de samme talerstolene der han ber om sikkerhetsmekanismer, lanserer han systemer som er mer kapable enn dem som utløste forrige runde med høringer. Da han uttalte seg 23. september, løftet han debatten opp på en større arena – fra paneler i Davos og høringssaler i Senatet til Sikkerhetsrådet – men mønsteret var det samme: forsiktighet i ordene, akselerasjon i veikartet. Overfor rådet argumenterte han for at utviklere «ikke bør trene modeller med mindre vi har svært gode grunner til å tro at vi vil kunne holde dem under menneskelig kontroll», og at de viktigste beslutningene «ikke kan tas av laboratorier i San Francisco alene».

Det er her setningen blir interessant, og her den bør leses nøye. Styringen Altman beskriver, skal utformes av nettopp statene han talte til, og den som definerer hva «bygget for mennesker» betyr, avgjør også hvilke utviklere som allerede oppfyller kravet. Et ledende KI-laboratorium som bidrar til å skrive regelboken, er ikke en nøytral part. Det betyr ikke at advarselen er tom. Risikoen han peker på – at systemene utvikler seg raskere enn institusjonene som skal holde øye med dem, og at beslutningsmakten samles på for få hender – er reell. Når han sier det høyt i Sikkerhetsrådet, øker det kostnaden for alle som helst skulle sett at temaet forble uklart. Det betyr bare at budbringeren nå selv er blitt en del av budskapet.

Leser man formuleringen velvillig, uttrykker den et etisk prinsipp: Mennesket skal være med i loopen, og KI skal behandles som et verktøy for handlekraft – ikke som en maskin som gjør mennesker til innsatsfaktorer. Leser man den også som det den er – et strategisk grep fra bransjens mest utsatte aktør – er den et forsøk på å sette premissene for de kommende reglene, samtidig som Altman fremstår som den voksne i rommet. Begge tolkningene kan være sanne samtidig. Det er nettopp derfor Altman er vanskelig å avfeie – og vanskelig å stole på.

Maskineriet går stadig raskere mens verden avgjør hvem det er til for. Hvor oppriktig formuleringen er, vil bare kunne måles på én ting: om OpenAI bremser når «for mennesker» og «raskere» til slutt peker i hver sin retning.

Tagger: OpenAI, artificial intelligence, Sam Altman, AI safety, AI governance