Google DeepMinds styreleder og Alphabets sjefsforsker Demis Hassabis om menneskehjernen: «en biologisk tilnærming til en turingmaskin»

Demis Hassabis har bygget karrieren sin på å behandle menneskehjernen som den eneste fungerende modellen for generell intelligens. Denne uken ble et utdrag fra ham et symbol på alt en kritiker mener KI-bransjen misforstår ved menneskesinnet. Hele setningen utdraget stammer fra, er imidlertid mer avgrenset – og mer avslørende – enn formuleringen som ble spredd.

«en biologisk tilnærming til en Turing-maskin».

Formuleringen står sentralt i et essay av Benjamin Riley i The Verge, «Our minds aren’t equipped to handle AI». Riley åpner med kybernetikkens pioner Norbert Wiener: «Hver tids tankegang gjenspeiles i dens teknikk», og trekker fram Hassabis, som nå er styreleder i Google DeepMind og sjefsforsker i Alphabet, som det tydeligste eksempelet på en bransje som ser sine egne maskiner når den betrakter en hodeskalle. Ordene stammer fra en samtale med James Manyika, publisert i år i Dædalus, tidsskriftet til American Academy of Arts and Sciences.

Hva hele setningen sier

I Dædalus forklarte Hassabis hva AGI betyr for ham. Han definerer det som «et system som har alle de kognitive evnene menneskesinnet har», fordi hjernen er «det eneste eksistensbeviset vi så langt kjenner til, kanskje i hele universet, på at generell intelligens overhodet er mulig». Deretter kommer hele formuleringen: «Hjernen kan betraktes som en biologisk tilnærming til en Turing-maskin, det vil si at den i teorien kan lære alt som er beregnbart.» Den neste setningen setter en grense for påstanden. Ethvert endelig system trenger «en viss grad av spesialisering, fordi tiden, hukommelsen og informasjonen er begrenset».

Leser man det slik, hevder han ikke at mennesker er bærbare datamaskiner. Det handler om spennvidde – om hva en hjerne i prinsippet kan lære – og fungerer samtidig som en teknisk spesifikasjon. Hvis hjernen er referansemaskinen, er AGI det som når hele dens spennvidde. Hassabis skisserer til og med en prøve: Tren en modell med kunnskapsgrense ved 1910, og se om den kommer fram til den generelle relativitetsteorien, slik Einstein gjorde i 1915. «Foreløpig er svaret åpenbart nei», sier han.

Kritikken treffer på et dypere nivå

Rileys innvending handler om noe annet. Med utgangspunkt i Paul Cisek, nevroforsker ved University of Montreal, argumenterer han for at hjernen forstås bedre som et system for tilbakekoblet kontroll, som handler i verden for å endre det den oppfatter. Den formes først av evolusjonen og deretter av kulturen: imitasjon, språk, skriving og skolegang. Med denne forståelsen blir en chatbot som gjør den krevende delen av tenkningen, «en kognitiv pølse» – fristende der og da, men skadelig som en del av det daglige kostholdet. Han viser til at Leah Belsky, OpenAIs utdanningssjef, har kalt ChatGPT «verdens største læringsplattform», og til en studie fra Kina der tusenvis av elever i praksis sluttet å gjøre lekser etter at de begynte å bruke KI.

Setningen som avgjør saken

Den skarpeste motsetningen finnes i Hassabis’ eget avsnitt. Noen linjer senere sier han at nøkkelen er «hjernens potensial til å lære nesten hva som helst, særlig fordi vi kan utvikle og bygge verktøy og maskiner som hjelper oss med å tilegne oss kunnskap». Det er denne formuleringen hele uenigheten dreier seg om. Riley beviser egentlig ikke at forståelsen av hjernen som en Turing-maskin er feil. Belegget hans handler om verktøy som lærer i stedet for å hjelpe et menneske med å lære. En påstand om beregnbarhet beskriver hva en hjerne i teorien kan tilegne seg. Den sier ingenting om hvorvidt et bestemt produkt gjør at den lærendes hode blir fyldigere eller tommere.

Dette spørsmålet rettes nå mot personen som utformer Alphabets vitenskapelige kurs. I august ga Hassabis fra seg den daglige jobben som toppsjef for å konsentrere seg om AGI-strategi og forskning. Ifølge Fortune sa han til de ansatte at AGI er like om hjørnet, og at det er avgjørende for menneskeheten å ta de neste stegene på riktig måte. Et laboratorium som måler maskinene sine mot hele spennvidden i menneskehjernen, har en direkte interesse av at denne spennvidden ikke krymper hos menneskene som bruker dem.

En tilnærming til en Turing-maskin må fortsatt programmeres av noe. For mennesker har det alltid vært det langsomme arbeidet med å lære – og det er nettopp dette steget et verktøy enten kan forsterke eller i det stille hoppe over.

Tagger: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine