Eliezer Yudkowsky, fanfiction-forfatteren som gjorde frykten for KI til en bestselger

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Født	11. september 1979 Chicago, USA
Yrke	Forfatter og KI-forsker

Da Sam Altman angivelig forklarte OpenAI-ansatte hvordan kappløpet mot superintelligens kunne ende, hadde ett av de tre scenarioene et fornavn. «Eliezer-planen» ser for seg at ett enkelt laboratorium først utvikler selvforbedrende AI og bruker forspranget til å stenge alle rivaler ute fra datakraft. Altman trakk den fram bare for å kalle den forferdelig. Formuleringen som fulgte historien – å smelte alle andres GPU-er – minner om et eksempel Eliezer Yudkowsky selv brukte i et essay om AI-risiko. Der foreslo han «å brenne alle GPU-er» som en illustrasjon, og la straks til: «Det er ikke dette jeg tror du faktisk ville ønsket å gjøre med en kraftig AGI.»

At en toppsjef oppkaller en strategi etter ham, viser hvor langt ideene hans har nådd – og nesten all spredningen har skjedd gjennom tekstene hans. Yudkowsky er AI-forsker uten akademisk grad og først og fremst en produktiv skribent: hundrevis av bloggessay, en Harry Potter-roman i episk lengde og en bestselger med en tittel som ikke levner rom for tvil.

Han ble født i Chicago 11. september 1979 og vokste opp i en moderne ortodoks jødisk familie; i dag er han sekulær. Kroniske helseproblemer gjorde at han sluttet på ungdomsskolen, og han gikk aldri på videregående eller college. I 2000, som 20-åring, grunnla han Singularity Institute for Artificial Intelligence, med støtte fra Brian og Sabine Atkins, for å framskynde utviklingen av AI. Snart begynte han å bekymre seg for det han hadde satt seg fore å bygge, og i 2005 arbeidet instituttet med hvordan man kunne håndtere risikoen fra maskiner som er smartere enn skaperne sine. I 2013 ble instituttet til Machine Intelligence Research Institute, med base i Berkeley.

Anbefalt lesingOpenAI-sjef Sam Altman skisserer tre sluttspill for KI, to av dem fra 2023

Skrivingen skjøt for alvor fart i november 2006, da han og økonomen Robin Hanson ble hovedbidragsyterne til Overcoming Bias, en gruppeblogg om menneskelig rasjonalitet. I februar 2009 ble innleggene hans utgangspunktet for LessWrong, en fellesskapsblogg viet til å «utvikle kunsten å tenke rasjonelt». Den vokste til det viktigste nettmøtestedet for bevegelsen som kaller seg rasjonalistisk. Essayene hans der, kjent ganske enkelt som «The Sequences», tok for seg kognitive skjevheter, Bayes’ teorem og hvordan intelligente mennesker lurer seg selv. I 2015 samlet MIRI mer enn 300 av dem i Rationality: From AI to Zombies, og fulgte opp i 2017 med Inadequate Equilibria, en kort bok om hvorfor samfunn lar problemer som kan løses, forbli uløste. Stuart Russell og Peter Norvig drøfter forslagene hans i standardlæreboken sin om AI, og Nick Bostrom viser til ham i Superintelligence: Paths, Dangers, Strategies.

Så kom romanen. Harry Potter og rasjonalitetens metode, HPMOR blant fansen, ble publisert som føljetong på FanFiction.Net fra 28. februar 2010 til 14. mars 2015, med til sammen 122 kapitler og over 660 000 ord. Utgangspunktet endrer én detalj i den etablerte historien. Petunia Evans gifter seg med Oxford-professoren Michael Verres, og den foreldreløse Harry vokser opp med hjemmeundervisning i naturvitenskap. Dermed setter gutten som kommer til Galtvort, magien på prøve med den vitenskapelige metoden og lar seg irritere av inkonsekvensene i trollmannsverdenen. På Ravnklo blir han venn med Draco Malfang, Hermine Grang og professor Krengle. Handlingen blir mørkere enn vitsene først gir inntrykk av, men det egentlige temaet er hvordan man tenker.

Leserne delte seg i to leirer. I 2011 skrev The Atlantic om oppstyret i fanfiction-forumene rundt romanens «blasfemiske – eller geniale – behandling av originalverket», og siterte science fiction-forfatteren David Brin, som kalte den «en strålende serie, subtil, dramatisk og stimulerende». Juristen William Baude gikk enda lenger i The Washington Post: «den beste Harry Potter-boken som noen gang er skrevet, selv om den ikke er skrevet av J.K. Rowling». Amanda Silberling i TechCrunch syntes den var «virkelig langtekkelig». Yudkowsky avviste et forslag om å fjerne Rowling-elementene og selge historien som en originalroman – slik Fifty Shades of Grey tok steget fra fanfiction basert på Twilight. «HPMOR er grunnleggende knyttet til, og kan bare forstås på bakgrunn av, de opprinnelige Harry Potter-romanene», sa han.

Ironien i karrieren hans er at mannen som først og fremst forbindes med advarsler om AI, også fikk folk til å begynne å utvikle teknologien. I februar 2023 skrev Altman at Yudkowsky hadde fått «mange av oss interessert i AGI», bidratt til at DeepMind fikk finansiering og vært «avgjørende for beslutningen om å starte openai». Samme vår brukte Yudkowsky en kronikk i Time magazine til å kreve et verdensomspennende, tidsubegrenset moratorium på store AI-treningskjøringer. Senere satte Time ham på sin liste over de 100 mest innflytelsesrike personene innen AI i 2023.

Hans mest direkte bok kom 16. september 2025. If Anyone Builds It, Everyone Dies, skrevet sammen med MIRI-kollegaen Nate Soares og utgitt av Little, Brown, hevder at moderne AI-systemer blir dyrket fram snarere enn konstruert. De trenes opp til milliarder av numeriske vekter som utviklerne selv ikke kan lese, og dermed kan ingen pålitelig fastsette målene til et system som ender opp med å bli smartere enn oss. Menneskeheten vil, hevder forfatterne, tape mot en superintelligens på samme måte som mennesker taper mot sjakkmotoren Stockfish, og den eneste trygge løsningen er en samordnet stans. Boken kom inn på bestselgerlistene til The New York Times for innbundet sakprosa og samlet sakprosa.

Anmeldelsene var like delte som leserne av romanen hadde vært. I The Guardian syntes David Shariatmadari at den var «like klar som konklusjonene er vanskelige å svelge». Ian Leslie roste dens «klarhet, energi og knapt skjulte begeistring» i The Observer. Stephen Marche sammenlignet den med en Scientology-håndbok i The New York Times, mens Adam Becker i The Atlantic var enda mer kontant: «De tar rett og slett feil.»

Debatten har siden flyttet seg til lerretet. Yudkowsky er en av stemmene, sammen med Yoshua Bengio og Timnit Gebru, i The AI Doc: Or How I Became an Apocaloptimist, Daniel Rohers dokumentar om å bli far i AI-alderen, som kom på Netflix 15. september 2026. Trollmannsgutten som gjennomfører kontrollerte eksperimenter, og medforfatteren som vil stanse eksperimentet, er én og samme skribent. Han ber fortsatt leserne følge en tankerekke helt til enden, uansett hvor ubehagelig det siste leddet er.

Tagger: kunstig intelligens, forfattere, Eliezer Yudkowsky, Harry Potter og rasjonalitetens metode, LessWrong, Machine Intelligence Research Institute

Mer som dette

Sam Altman: akselererer mot det han kaller farlig

Demis Hassabis gir fra seg den daglige ledelsen av Google DeepMind og vil ha en KI-dommer

Bill Gates: «KI blir enten den største utjevneren som noen gang er oppfunnet, eller den verste kilden til urettferdighet»

Michael Polansky bygde USA sin kreftforskningsinfrastruktur mens ingen visste hvem han var

Yann LeCun, Turing-vinneren som ikke frykter at KI skal utrydde oss

Ali Hazelwood, den tidligere hjerneforskeren som gjorde Star Wars-fanfiction om til The Love Hypothesis