Folk bruker KI for psykisk helse fordi den svarer – ikke fordi den hjelper

Noe har stille endret seg i måten folk kommer seg gjennom de verste nettene på. Når sinnet vender seg mot seg selv og det ikke er noen å ringe, åpner en voksende andel voksne i stedet en chatbot – ikke fordi de er overbevist om at den forstår dem, og ofte ikke engang fordi den hjelper, men fordi den svarer. Det er den ubehagelige kjernen i en omfattende ny undersøkelse om sinnets helse, og den er merkeligere enn overskriften antyder.

Den opplagte tolkningen er en historie om tillit: mennesker som overlater sitt indre liv til maskiner. Men tillit er feil linse. Det tallene beskriver, er egentlig ikke en dom over om teknologien er noe tess. Det er en dom over tilgjengelighet – det enkle faktum at chatboten er der, og at den profesjonelle ikke er det.

Studien, utført av forsikringsselskapet AXA sammen med meningsmålingsinstituttet Ipsos blant 19 000 voksne i 18 land, fant at 63 % allerede har vendt seg til KI-verktøy med spørsmål om sin mentale helse. Det som gjør tallet verdt å stoppe opp ved, er motsetningen som sitter ved siden av. Hele 45 % var misfornøyde med svarene de fikk. Og likevel sa 38 % at de stoler mer på disse plattformene enn på en menneskelig psykisk helsearbeider. Folk er misfornøyde med rådene og tyr likevel til dem.

Det gir bare mening hvis kvalitet aldri var den avgjørende faktoren. En chatbot er bygget for å produsere et flytende svar, ikke et korrekt; den bærer ingen omsorgsplikt og ingen forpliktelse til å eskalere når den oppdager at noen er i fare. Den svarer ganske enkelt, umiddelbart, gratis, uten henvisning eller månedslang ventetid. “KI er tilgjengelig 24/7, den er gratis, og den er der på telefonen din når du er alene klokken 23,” som AXAs helsedirektør uttrykte det. Det er hele verdiskapningen. Det er også hele problemet.

Undersøkelsen antyder prisen for byttehandelen. Blant personer som bruker en chatbot for psykiske helseproblemer, sa 42 % at de nesten alltid følger rådene den gir – og 28 % sa at det å handle på en chatbots anbefaling hadde ført dem mot skadelig atferd. Et verktøy uten klinisk ansvarlighet blir behandlet som en førstelinjetjeneste av de menneskene som er minst i stand til å tåle et feil svar.

Still det opp mot hvordan formelle helsesystemer tar i bruk samme teknologi, og to parallelle verdener trer frem. Et separat øyeblikksbilde fra WHOs europeiske kontor, det første i sitt slag på tvers av alle 27 EU-medlemsland, fant at nesten tre fjerdedeler allerede bruker KI-assistert diagnostikk og omtrent seks av ti tar i bruk chatrobotter for å støtte pasientengasjement. Inne i klinikken kommer KI innpakket i tilsyn, styring og det medisinske ansvarsapparatet. Utenfor, på forbrukersiden, kjøres de samme underliggende modellene uten noe av dette – uten opplysning om hva de kan og ikke kan gjøre, uten overlevering når risiko oppstår.

Menneskene som faller inn i det andre systemet, er overveldende de som er stengt ute fra det første. Som en lege som skrev om undersøkelsen, uttrykte det: folk integrerer KI i sine følelsesliv “ikke som et tillegg til et velfungerende helsevesen, men snarere som et tilgjengelig inngangspunkt til omsorg som har vært utenfor rekkevidde for de fleste.” Drivkraften er kostnad og tilgang, ikke en overbevisning om at maskinen vet bedre. Misnøyetallet er beviset: brukerne kan se forskjellen. De bruker det likevel, fordi alternativet er ingenting.

Ingenting av dette argumenterer for at KI ikke har noen plass i mental helse. Klinikere ser en reell plass – triage, kontinuitet mellom avtaler, en bro for mennesker som ellers ikke ville fått noe som helst. Men versjonen som sprer seg raskest, er den uregulerte, og den sprer seg nettopp der innsatsen er høyest. Løsningen som stadig dukker opp, er lite glamorøs: verktøy som tydelig sier hva de ikke er, og som overfører en person til en kvalifisert profesjonell i det øyeblikket de merker at noen er i faresonen.

Venterommet ble ikke tømt fordi folk ble friske. Det ble tømt fordi døren for de fleste aldri var åpen. KI vant ikke en argumentasjon om omsorg. Den tok bare telefonen – og ingenting i den andre enden er forpliktet til å merke når samtalen går galt.

Tagger: WHO, AXA Ipsos-undersøkelse, chatboter, digital helse, psykisk helse KI