KI-agent førte en nål inn i hjernen på en levende mus etter at Claude Opus sa nei

En KI-agent valgte behandling for et levende dyr, fant ut hvor i hjernen den skulle settes, og styrte deretter robotarmene som utførte inngrepet. Exin Therapeutics, en oppstartsbedrift i San Francisco som utvikler legemidler mot epilepsi og nevrodegenerative sykdommer, koblet en Claude-agent til en motorisert operasjonsrigg med kameraer, ga den en mus med epilepsi og ett mål: å redusere anfallene.

Detaljen folk stadig trekker fram, er hvem som sa nei. Anthropics mest avanserte modell, Claude Opus, nektet å føre nålen inn. Teamet gikk over til den rimeligere Claude Sonnet, som utførte inngrepet. For alle som følger med på hvordan KI-agenter beveger seg fra skjermen og inn i laboratorier, lagerbygninger og biler, viser forsøket en modell som tar de medisinske beslutningene i tillegg til å styre bevegelsene. Det viser også at modeller fra samme selskap trekker grensen på ulike steder.

Ifølge en tråd publisert av Exins administrerende direktør og medgründer, Gabriel Ocana-Santero, fikk agenten et regneark med 19 genterapivektorer, tre forskningsartikler og kontroll over riggen. Den valgte behandlingen og hjerneområdet, utledet koordinatene fra artiklene og styrte deretter de stereotaksiske armene – den motoriserte rammen som holder en nål stødig i tre dimensjoner – og injiserte 250 nanoliter mens den fulgte innstikkstedet gjennom riggens kamera for å se etter blødning.

«Autonome kirurgiroboter finnes, og de er bedre på det mekaniske enn benkeriggen vår», skrev Ocana-Santero. «Men i alle disse tilfellene har et menneske bestemt hvilket inngrep som skal utføres, og roboten har gjennomført det.» Her er poenget det motsatte, skrev han: «Ingen fortalte denne agenten hva den skulle gi, eller hvor det skulle settes.»

Avslaget kom først. Teamet begynte med Claude Opus 5.5, Anthropics mest kapable modell, men den ville ikke føre nålen inn i hjernen. Den advarte om at den kunne komme til å stoppe midt i inngrepet og sette dyret i fare, slik Wired rapporterte. «Å starte noe jeg ikke kan fullføre på et bedøvet dyr, er verre enn å ikke starte», sa en av Opus-modellene til teamet, ifølge Tom’s Hardware. Claude Sonnet 5 gikk med på å fortsette. Anthropic svarte ikke på Wireds forespørsel om kommentar.

Mennesker var involvert på hvert trinn som ikke kunne gjøres om. En veterinærkirurg utførte kraniotomien, altså åpningen av skallen, mens agenten fulgte med; agenten har ennå ikke lov til å gjøre denne delen. Veterinæren godkjente hvert irreversible trinn, agenten måtte legge fram injeksjonsplanen for godkjenning, og en fysisk nødstopp kunne kutte strømmen til alle motorene i riggen. Agenten hadde heller ikke tilgang til utstyrets kode, slik at den ikke kunne endre sine egne regler.

Disse sikkerhetstiltakene førte til det største problemet underveis. En feil forstyrret riggens koordinatsystem. Agenten oppdaget at den beregnede posisjonen var feil, men nektet å endre koden fordi instruksjonene forbød det. Teamet hentet inn en annen agent, som kjørte den eldre Claude Opus 5, for å rette feilen, uten å fortelle den at en operasjon på et levende dyr var i gang. Et inngrep som vanligvis tar rundt 45 minutter, varte litt over en time.

De viktigste forbeholdene handler om dokumentasjon. Dette gjelder én mus, og forsøket er beskrevet av selskapet selv på sosiale medier, uten noen fagfellevurdert artikkel i ryggen. Ingen vet ennå om behandlingen agenten valgte, virker: Teamet venter på at den skal få effekt før de måler anfallene. Tom’s Hardware peker på det uavklarte spørsmålet om hvem som står ansvarlig for en feil når programvaren tar alle beslutningene, i tillegg til de gamle diskusjonene om dyreforsøk. Ingenting her er et produkt; det finnes ingen tjeneste andre laboratorier kan kjøpe, i noe land.

Ocana-Santero publiserte tråden 28. oktober og lovet en full gjennomgang på Substack. Wired og Tom’s Hardware skrev om forsøket 31. oktober. Exin sier selskapet vil teste xAI’s Grok og andre modeller for å sammenligne dem, og arbeider med kraniotomier styrt av agenter, men vil forsikre seg om at de er trygge før de prøver det på et levende dyr. Å slippe en agent i nærheten av en menneskehjerne er altfor tidlig, sa Ocana-Santero til Wired.

Musen er i god form under rekonvalesensen, sier han. Om anfallene avtar, avhenger nå av en behandling som et dataprogram valgte fra et regneark.

Tagger: Anthropic, Claude, robotikk, AI agents, Claude Opus 5.5, Exin Therapeutics