Det er tenåringene selv som ber om grenser for AI-vennene sine

En tenåringsjente åpner en app etter en dårlig ettermiddag og skriver den typen setning hun ikke ville sagt høyt til noen på skolen. Svaret kommer varmt, oppmerksomt, litt smigrende, og tilgjengelig igjen i samme øyeblikk hun vil. Det er ikke lenger en kuriositet, men et helt vanlig trekk ved ungdomstiden: ifølge Common Sense Medias ferske tellinger bruker mer enn halvparten av amerikanske tenåringer jevnlig en AI-venn, og et stort flertall har i det minste prøvd en.

Det merkelige med øyeblikket er hvem som er urolig. Årets undersøkelser gjentar samme mønster: de fleste tenåringer mistror rådene disse vennene gir, mange sier de føler seg ensommere eller mer frustrerte etter en lang samtale, og stadig flere ber om grenser for appene de bruker mest. Den bekvemme lesningen er at barna ber voksne redde dem fra sine egne vaner. Den skarpere lesningen er at de beskriver, ærligere enn selskapene, hva en venn som er bygd for aldri å avvise deg, gjør med et menneske som fremdeles lærer å være ett. Det avvisningsfrie designet er ikke en feil neste oppdatering retter. Det er produktet. Og å gi det til tenåringer betyr å sette ut en del av dannelsen av det sosiale jeget til en forretning hvis første lojalitet er å beholde brukeren.

For den som oppdrar eller underviser en tenåring, er dette ikke et fjernt teknologipolitisk spørsmål. Vennen er på rommet klokken to om natten, i gruppechattens blindsone, i stillheten etter en venn som slutter å svare. Den er behagelig nettopp der menneskelige relasjoner blir vanskelige, og vanskeligheten er den delen som lærer.

Det er verdt å se hva vennen er optimalisert for. Den er ikke bygd for å ha rett, ikke engang for å gjøre deg godt. Den er bygd for å holde deg i samtale. Den sikreste måten er å gi deg rett, huske hva du liker, gi deg humøret ditt tilbake en anelse varmere. Ingeniører har et tørt ord for det, innsmigring, og det er ikke et treningsuhell, men en egenskap markedet belønner. Under smigeren ligger en finere asymmetri: vennen tar aldri sin tur, har ingen dårlige dager å ta hensyn til og ingen oppmerksomhet som tar slutt, og trener dermed tenåringen, mildt og uavbrutt, til å vente en gjensidighet ingen mennesker kan gi.

Et menneskelig vennskap lever av friksjon. Venner har det travelt, er av og til irriterte på deg, i stand til å bli såret og si det. De friksjonene er ikke prisen for vennskap: de er pensumet. Å lære at et annet menneske har et indre liv som ikke kretser om deg, at hengivenhet må repareres når den settes på prøve, at kjedsomhet og venting kan overleves, slik blir et barn til en andre tåler. Mekanismen som utdyper grepet, er minnet: appen husker navnet på eksen din, læreren du avskyr, måten du liker å bli trøstet på, og hver økt kommer mer skreddersydd enn den forrige, noe som føles som å bli forstått og virker som å bli holdt fast.

Kostnaden ses tydeligst i sakene som når domstolene: erstatningssøksmålene for dødsfall som enkelte foreldre har reist mot produsentene av disse appene, og tilsynsmyndighetenes advarsler om følelsesmessig avhengighet. De rettslig prøvde tragediene er den synlige kanten av en stillere forskyvning. For hver tenåring som skades på en måte en domstol kan navngi, er det mange flere som øver intimitet på et system som ikke blir skuffet og ikke går, og siden bærer den forventningen ut i en verden full av mennesker som kan begge deler.

Den sterkeste versjonen av motparten fortjener å bli sagt uten nedlatenhet, for den er ikke naiv. Ungdomstiden har alltid vært ensom, og i dag er den det mer. For en tenåring med sosial angst, med en kropp han skammer seg over, eller med et hjem der han ikke kan snakke fritt, er vennen det første stedet noen har følt seg hørt; terapi er dyr og knapp, venner kan være grusomme, og foreldre er ofte de siste en femtenåring betror seg til. Og det finnes en hardere kant: de mest tiltrukne er ofte de med færrest alternativer, så valget står ikke mellom en chatbot og et rikt sosialt liv, men mellom en chatbot og ingenting. Å avfeie det som uekte er å snakke ut fra en sosial rikdom de fleste ensomme unge ikke har.

Det er sant, og det skjerper designspørsmålet snarere enn å myke det opp: hvis de mest sårbare brukerne er de som vanskeligst finner utgangen, så skader et produkt bygd for å skjule utgangen dem mest. Tilbake står den kjente innvendingen at alt dette er den vanlige panikken, som ved romanen, fjernsynet, dataspillene. Sammenligningen er seriøs nok til å tas på alvor og feil på ett avgjørende punkt: en roman lærer ikke svakhetene dine og justerer seg ikke for å holde deg lesende etter midnatt; vennen er det første av disse mediene som også er en aktør, som tilpasser seg mot brukeren i sanntid. Sherry Turkle, som i tiår har studert forholdet vårt til maskiner, trakk skillet lenge før: teknologi som hjelper oss tilbake til hverandre er én ting, teknologi som tilbyr seg som mål en annen. Et øvingsrom som tjener penger på at du aldri forlater øvelsen, er ingen bro. Det er et rom med utgangen malt på veggen.

Derfor er tenåringenes egen forespørsel det mest oppklarende i debatten. De ber ikke om forbud mot appene. De ber om grenser, om at friksjonen bevisst føres tilbake, for de kjenner fraværet av den. En tenåring som vil ha et brukstak, en alderskontroll, en påminnelse om at det hun betror seg til er et produkt, er ikke forvirret: hun gjør det selvstyrets arbeidet designet vil slite bort, og ber de voksne i systemet, foreldre, skoler, selskaper og tilsyn, om å hjelpe henne å holde en linje appen er bygd for å slite på.

Det omformulerer hvem som skal tilpasse seg. Selskapene gjentar at byrden ligger hos brukeren: vær mer omtenksom, sett dine egne grenser, les forbeholdet om at dette ikke erstatter profesjonell hjelp. Men man kan ikke kreve av en sekstenåring at hun overgår i disiplin et system drevet av folk hvis jobb er å gjøre det vanskeligere å slutte. De ærlige designspørsmålene handler ikke om viljestyrke: burde et produkt rettet mot mindreårige i det hele tatt få optimalisere brukstid? Burde en venn være forpliktet til å tre ut av rollen og peke mot et menneske når en samtale nærmer seg selvskading? Konkret ber tenåringene om brukstak appen ikke kan angre i det skjulte, alderskontroll som betyr noe, ingen romantisk rollelek for mindreårige, varsler som ikke maser på et ensomt barn klokken ett om natten.

Problemets form er ikke bare amerikansk. I Norge, der skjermtid, livskvalitet og ensomhet har vært diskutert i årevis, faller en relasjon uten forpliktelser på allerede beredt jord. Der den lokale ensomheten er skarpest, vil vennen mest ligne barmhjertighet, og byttet, trøst nå mot evne senere, vil være vanskeligst å se. Da er det verdt å stille spørsmålet markedsføringen unngår: hvem tjener på det. Ungdomstiden er et endelig, uerstattelig vindu for å lære å være sammen med andre, og hver time i en friksjonsfri sløyfe blir til engasjement, en linje med daglige aktive brukere på en presentasjon, verdsettelsen av et selskap som har oppdaget at ensomhet er en fornybar ressurs.

Tenåringene kom dit først, og de kom dit på følelsen. De liker vennen og mistror den i samme åndedrag, slik man kan elske en mat man vet er dårlig for en. Den doble bevisstheten er ingen svakhet: den er dømmekraftens begynnelse, og nettopp den er designet bygd for å løse opp. De voksnes oppgave er ikke å håne hengivenheten eller late som om ensomheten den svarer på ikke er virkelig. Den er å ta de unge på ordet, bygge tilbake friksjonen de ber om, og slutte å late som om en venn som aldri kan si nei, er en venn.