Ray-Ban Meta-briller streamet intime opptak til Kenya uten å fortelle brukerne

Når Ray-Ban Meta-briller vender mot et rom, tar de opp. Ifølge et gruppesøksmål anlagt ved en føderal domstol i California, ble opptakene deretter sendt til Sama, et innholdsmodereringsselskap i Kenya, hvor arbeidere gjennomgikk materialet og merket det for trening av kunstig intelligens. Klagen beskriver opptak som inkluderte personer som besøkte badet, kledde av seg, hadde intim aktivitet, og barn under bleieskift og bading. Ansiktene i opptakene var identifiserbare, hevdes det i søksmålet, til tross for Metas uttalte anonymiseringsarbeid.

Meta solgte disse brillene med et spesifikt løfte. «Ray-Ban Meta smartbriller er bygget med personvern i kjernen,» skrev selskapet i markedsføringsmateriellet sitt ved lanseringen. Gruppesøksmålet hevder at denne påstanden ikke var korrekt. Søksmålet bygger på vitneforklaringer fra Sama-arbeidere, som beskrev hva de hadde gjennomgått i intervjuer med svenske gravejournalister tidligere i år.

En endret klage innlevert i slutten av august utvider saksøkergruppen i en juridisk betydningsfull retning: den inkluderer nå personer som aldri kjøpte eller brukte brillene – tilskuere som dukket opp i opptak gjort av noen andre på en restaurant, i et hjem, på en arbeidsplass eller på et offentlig sted. Advokatene anslår at den utvidede gruppen dekker millioner av mennesker. Inkluderingen av tilskuere, individer som ikke hadde noe forhold til produktet i det hele tatt, er det mest juridisk nyskapende elementet i saken.

Det er et skille verdt å trekke mellom hva søksmålet hevder er ulovlig og hva som er rutine i AI-bransjen. Menneskelig gjennomgang av AI-treningsdata er standard i hele sektoren. Selskaper som Apple, Google og Amazon har alle brukt leverandører til å gjennomgå taleopptak, bilder og andre brukerdata for å forbedre modellene sine. Meta viser til nettopp denne sammenligningen i sitt svar: gjennomgang av data for produktforbedring «fungerer på samme måte som mange andre selskaper.» Den juridiske teorien her er smalere – at brukere og tilskuere aldri ble fortalt at dette skjedde inne i et produkt hvis hele markedsføring var basert på personvern.

Påstandene er fortsatt ubekreftet. Saken er i tidlig rettsfase, Meta har avvist beskrivelsen av hva Sama-arbeiderne gjennomgikk, og domstolene har historisk vært forsiktige med å utvide søksmålsstatus til tilskuere som ikke hadde noe direkte forhold til et produkt. Clarkson Law Firm, som leder saken sammen med andre, har en historie med å presse de juridiske grensene for forbrukerpersonvernsøksmål – og en historie med å tape noen av dem.

Den neste terskelen er godkjenning av gruppesøksmålet, hvor en dommer vil avgjøre om brukergruppen og tilskuergruppen kan gå videre sammen eller separat – eller i det hele tatt. Den avgjørelsen vil bestemme om argumentet om at tilskuere har personvernrettigheter over opptak tatt med maskinvare de aldri valgte å eie, når en rettssak. Meta har sagt at de vil kjempe mot påstandene.

Tagger: meta, personvern, wearables, AI-trening, gruppesøksmål, Ray-Ban Meta