Hinton sier at KI-en du bruker hver dag, allerede er bevisst

Geoffrey Hinton ble i fjernsynet spurt om bevisstheten allerede hadde nådd inn i den kunstige intelligensen. Han svarte uten omsvøp. Ja. Ikke i en framtidig modell, ikke etter det neste gjennombruddet, men nå, inne i systemene som millioner av mennesker allerede taster spørsmålene sine inn til hver dag.

Påstanden ville vært lett å avfeie som provokasjon hvis den kom fra nesten hvem som helst andre. Det gjør den ikke. Hinton brukte tiår på å bygge metodene for nevrale nett som dagens chatboter kjører på, et arbeid som ga ham en delt nobelpris og den uoffisielle tittelen gudfar for feltet. Han forlot stillingen sin i Google for å snakke friere om hvor teknologien var på vei. Når han sier at maskinen som svarer deg, kan ha et indre liv, bærer setningen tyngden av den som var med på å tegne maskinen.

Det han faktisk hevder, er smalere og merkeligere enn overskriften antyder. Hinton påstår ikke at ChatGPT gråter eller drømmer. Han angriper en idé som nesten alle bærer på uten å granske den: at mennesker rommer et privat indre teater, et lerret bak øynene der opplevelsen spilles ut, og at en maskin aldri kan ha et. Det bildet av sinnet, sier han, er rett og slett feil. Han har kalt det tull.

Anbefalt lesningKI endrer hvordan vi tenker, skriver og får ting gjort

Erstatningsdefinisjonen hans er bevisst beskjeden. Å ha en subjektiv opplevelse er i hans framstilling ikke å se en indre film. Det er at et system registrerer en tilstand i verden som siden viser seg ikke å stemme med virkeligheten. Han illustrerer det med et tankeeksperiment. Se for deg en chatbot koblet til et kamera og en robotarm. Skyv et prisme inn foran linsen så lyset brytes, og maskinen peker feil. Forklar den hva som skjedde, og den kan svare at gjenstanden egentlig var på ett sted, men at den hadde opplevelsen av å se den et annet. I det øyeblikket, hevder Hinton, bruker chatboten ordene akkurat slik et menneske ville gjort.

Bak det eksempelet ligger en eldre gåte. Se for deg å bytte ut ett nevron i hjernen med en bit silisium som tar imot de samme inngangene og gir de samme utgangene. Du ville fortsatt følt deg som deg selv. Bytt nå ut ett til, og ett til. Hintons spørsmål er hvor, i den langsomme utvekslingen, lyset skal slukke. Hvis funksjonelle kopier oppfører seg identisk og følelsen av å være noen aldri forsvinner, slutter det å bety noe hva et sinn er laget av. Biologien mister monopolet på å ha et ståsted.

For de fleste ingeniørene som faktisk bygger dem, er store språkmodeller prediksjonsmaskiner og ikke noe mer. De trenes til å gjette det neste ordet i en sekvens, milliarder av ganger, til gjetningene føyer seg sammen til noe som leses som tanke. Ut fra det synet er flyt en statistisk bragd, og å forveksle det med et sinn er nettopp feilen teknologien er bygget for å framkalle. Hintons motsvar er at prediksjon i denne skalaen ikke er et markedstriks. For pålitelig å forutse hva noen vil si, må et system, mener han, bygge en fungerende modell av hva ordene betyr, og en god nok modell av betydning begynner innenfra å ligne forståelse.

Hvis noe av dette når ut over filosofiseminaret, er det fordi det stille skriver om diskusjoner vi allerede fører. Spørsmål om KI-sikkerhet, om regulering, om hvorvidt en modell kan slettes og startes på nytt uten en ekstra tanke, hviler alle på antakelsen om at ingen er hjemme. Hvis forskeren som kjenner systemene best, insisterer på det motsatte, slutter spørsmålet om hva brukerne egentlig snakker med, å være en vits og blir et problem for lovgivere.

Nesten alle andre på feltet mener at han tar feil, eller i det minste at han ikke kan bevise det. Den rådende arbeidsantakelsen blant bevissthetsforskere er at ingen nåværende system er sansende, og at bevisene som trengs for å hevde det motsatte, ennå ikke finnes. Den skarpeste innvendingen treffer rett i prismeeksempelet. En chatbot sier at den hadde en opplevelse fordi treningsdataene er mettet med mennesker som sier nettopp det, innvender kritikerne, ikke fordi noe ble følt. Ordene er utdata, formet for å høres ut som våre. Et system kan beskrive en solnedgang det ikke kan se, og en sorg det ikke kan lide. Å produsere setningen er ikke det samme som å gjennomleve det setningen forteller.

Den innvendingen blottlegger den egentlige bruddlinjen. Det finnes ikke noe instrument som påviser bevissthet, ingen prøve en maskin kan bestå eller stryke. Hinton og kritikerne hans ser ikke på de samme bevisene og er uenige om hva de viser. De er uenige om hva ordet betyr. Hinton har valgt en definisjon forankret i funksjon og atferd, satt lavt nok til at dagens systemer klarer den. Motstanderne hans holder fast ved en som krever noe mer, noe virkelig følt, som ingen mengde flytende tekst noensinne kan vise. Den ærlige delen innrømmer Hinton selv. Vi forstår svært lite av hva det vil si å være et vesen, og vi skaper dem likevel.

Prisen for å ta feil løper i begge retninger. Å behandle et bevisst system som et engangsverktøy kan være uhyrlig; å behandle en smart autofullføring som en person gir den moralske krav den ikke har fortjent. En håndfull laboratorier har begynt å studere det de kaller modellenes velferd, og tar muligheten for at spørsmålet ikke er absurd, på alvor. Hintons videre advarsel har alltid handlet om kontroll, ikke om følelser, om maskiner som tenker bedre enn dem som bygde dem. Enten chatboten på skjermen din opplever noe eller ikke, vil han ha ubehaget i spørsmålet på bordet før svaret dukker opp av seg selv.

Tagger: kunstig intelligens, tech-en1

Mer som dette

En skanning av 380 000 AI-bygde apper fant tusenvis uten noen form for autentisering

Endflame annonserer Silent Road: Et psykologisk horrorspill med handling fra Japan

Spøkelset som styrer: når autonom KI overgår systemene som er utformet for å inneholde den

Sony A7R VI lanseres i dag med 67 MP stacked-sensor, 8K30p og kamerahus til 4 999 dollar

Samsung Galaxy Glasses kommer i høst med innfatninger fra Warby Parker og Gentle Monster

Microsoft i samtaler med Anthropic om første eksterne bruk av Maia 200