TikTok skal ha gitt tenåringer en placeboknapp for å nullstille feeden, ifølge New York

Da tusenvis av TikTok-brukere, blant dem tenåringer og barn, trykket på knappen for å slette anbefalingene sine og begynne på nytt, skjedde det ingenting, ifølge nylig offentliggjorte dokumenter i New Yorks søksmål mot selskapet. Brukerne fikk en melding om at nullstillingen var gjennomført. Likevel fortsatte For You-feeden å vise dem den samme typen videoer.

Verktøyet som står sentralt i anklagene, Algo Refresh, er en av de få utveiene TikTok tilbyr dem som opplever at feeden har dreid i en retning de ikke lenger ønsker. Tanken er at For You-siden skal oppføre seg som om kontoen var helt ny. New York hevder at noen av dem som prøvde verktøyet, ble plassert i en testgruppe og fikk en versjon som ikke gjorde noe, mens brukere utenfor eksperimentet fikk en versjon som virket.

Ifølge klagen sammenlignet TikTok deretter de to gruppene med tanke på hvor lang tid de brukte i appen, og hvor store annonseinntekter de ga. Klagen viser også til en intern innvending. En produktsjef i TikToks Digital Well Being-team skrev i en chat: «Denne funksjonen handler om åpenhet og kontroll over algoritmen», og la til: «En placebogruppe står i fullstendig motstrid til det.» New York hevder videre at selv den fungerende nullstillingen bare hadde midlertidig effekt.

TikTok avviser denne framstillingen. En talsperson fortalte Reuters at «vi jevnlig tester nye produkter og funksjoner for å kvalitetssikre brukeropplevelsen og forstå hvordan de fungerer i den virkelige verden», og sa at søksmålet gir et uriktig bilde av hvordan Algo Refresh virker. I et rettsdokument erkjente selskapet at testene «kan omfatte en andel av trafikken på plattformen som fortsatt får den opprinnelige brukeropplevelsen», men avviste at dette gjorde brukerne mindre trygge.

Det er betydelige begrensninger i hva man vet. Dette er påstander i en endret klage, ikke konklusjoner fra en domstol, og utdragene som hittil er gjort offentlige, oppgir verken hvor mange som havnet i placebogruppen, hvor lenge testen pågikk, eller hva den viste. Å teste en endring mot en kontrollgruppe er vanlig praksis i teknologibransjen. Stridsspørsmålet er om et sikkerhetsverktøy som brukes av mindreårige, i det hele tatt bør være gjenstand for slike tester. Saken gjelder New York, men dokumentene som hittil er omtalt, sier ikke hvor testbrukerne bodde.

For alle som bruker knappen i dag, er det praktiske poenget mer begrenset: En nullstilling er ikke bevis på at algoritmen har glemt deg. TikToks søkeordfiltre, innstillingen for begrenset innhold og muligheten til å skjule bestemte innholdsskapere er separate kontroller, og nullstillingen endrer ikke på dem.

Testene som beskrives i dokumentet, fant sted i 2023, samme år som TikTok lanserte muligheten til å oppdatere For You-feeden. New Yorks justisminister Letitia James saksøkte selskapet for første gang i oktober 2024. Påstandene om placebo stammer fra en endret klage som ble levert under taushetsplikt mot slutten av august, og som en dommer besluttet å offentliggjøre, slik Reuters meldte 7. oktober.

Dette er ikke det eneste eksperimentet saken handler om. Bloomberg meldte i august at TikTok holdt tilbake en egen sikkerhetsoppdatering fra rundt 10 prosent av brukerne i USA – omtrent 15 millioner mennesker – og at en 16 år gammel New Yorker i denne gruppen døde ved selvmord i 2022. Ingen domstol har knyttet dødsfallet til testen.

Mer enn to dusin amerikanske delstater har saksøkt TikTok. De anklager selskapet for å utforme appen slik at barn blir hekta, og for å villede familier om sikkerhetsverktøyene. Alabama, der saken først skulle opp for retten, inngikk et forlik i september på opptil 300 millioner dollar. Det er ikke offentliggjort noen dato for rettssaken i New York.

Tagger: New York, tiktok, barns sikkerhet, Algo Refresh, For deg