Næringsliv

Meredith Whittaker: Signal-sjefen som kaller KI-agentene i mobilen en bakdør

Penelope H. Fritz
Legg oss til på Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Født2000
YrkePresident for Signal Foundation
PriserHelmut Schmidt Future Prize

I fredags slo Signal på en innstilling de fleste brukerne aldri vil legge merke til. På nye iPhone-er hindrer appen nå Apples KI-assistent Siri i å lese hva som vises på skjermen inne i en samtale, og skjermbilder er blokkert som standard. På Android lukkes vinduet hver gang Googles Gemini forsøker å titte inn. Meredith Whittaker, president i Signal, kunngjorde endringen selv, og i det samme innlegget innrømmet hun at det ikke er nok. Agentene som Apple, Google og Microsoft bygger inn i operativsystemene sine, kan fortsatt nå det som er lagret på enheten, og på en Mac kan Signal ikke stoppe dem i det hele tatt. Hun kalte det en eksistensiell trussel mot appen hun leder.

Kampen passer henne, og den avslører samtidig dilemmaet i kjernen av karrieren hennes. Whittaker tilbrakte mer enn ti år hos Google før hun ble en av de skarpeste kritikerne av forretningsmodellen som betalte lønnen hennes. Nå leder hun en ideell meldingstjeneste som nekter å samle inn data, ikke selger noe og er avhengig av givere, men som likevel må leve på telefoner bygd av de samme selskapene hvis KI-produkter hun kaller hensynsløse. Signal kan kryptere en melding fra ende til ende. Operativsystemet kan den ikke kryptere.

Veien hennes inn i teknologibransjen var usannsynlig. Whittaker studerte retorikk og engelsk litteratur ved University of California, Berkeley, og begynte i Google i 2006, hvor hun ble værende i tretten år. Hun grunnla Googles Open Research-gruppe, som samarbeidet med akademikere og open source-utviklere om måling av nettnøytralitet, personvern og sikkerhet, og hun var med på å grunnlegge M-Lab, Measurement Lab, et åpent nettverk som har blitt den største offentlige datakilden om internettytelse.

Målingene lærte henne å mistro påstander som kommer uten dokumentasjon. I 2017 grunnla hun AI Now Institute ved New York University sammen med forskeren Kate Crawford, etter et symposium arrangert av Det hvite hus. Instituttet undersøkte hva kunstig intelligens gjør med menneskene den brukes på, snarere enn hva den kan få til i en demonstrasjon, og rapportene deres vendte stadig tilbake til ett argument: at det dypere problemet i mindre grad handlet om partisk kode enn om hvem som eier disse systemene, og hvem de rettes mot. Senere hadde hun Minderoo-forskerprofessoratet ved NYU og var faglig leder for AI Now. I dag er hun instituttets sjefsrådgiver.

Det argumentet satte henne på kollisjonskurs med arbeidsgiveren. I 2018 skrev hun et opprop mot Project Maven, en kontrakt med Pentagon der Google utviklet verktøy for maskinsyn til USAs droneprogram. Mer enn tre tusen ansatte skrev under, og Google fornyet ikke kontrakten. Noen måneder senere var hun en av hovedarrangørene bak Google Walkout, da mer enn tjue tusen ansatte forlot arbeidsplassene sine etter meldinger om at selskapet hadde utbetalt en sluttpakke på 90 millioner dollar til Andy Rubin, en leder anklaget for seksuell trakassering. Whittaker har senere sagt at Google gjengjeldte ved å be henne droppe arbeidet sitt ved AI Now. Hun forlot selskapet i juli 2019.

Samme sommer fortalte hun House Science Committee at KI-systemer kan befeste skjevheter, og ba om varslerbeskyttelse for ansatte i teknologibransjen. tidlig i 2020 gikk hun enda lenger overfor House Oversight Committee, der hun argumenterte for at problemet med ansiktsgjenkjenning ikke bare handlet om treffsikkerhet, men om makten til dem som bruker teknologien mot mennesker med mindre makt, og krevde at bruken ble stanset. Fra november 2021 var hun seniorrådgiver for kunstig intelligens hos lederen av Federal Trade Commission, Lina Khan.

Signal ansatte henne i september 2022 som sin første president, en stilling som ble opprettet i samråd med appens ledelse. Signal har ingen reklame og ingen brukerdata å selge, og Whittaker har åpent sagt at driften koster rundt 50 millioner dollar i året. Mye av den første tiden i jobben gikk med til å forklare hvorfor en meldingstjeneste som lagrer nesten ingenting om brukerne sine, likevel trenger et stort ingeniørteam og faste givere, og hvorfor alternativet er å bli betalt i form av overvåking.

Kritikerne peker på begrensningene ved denne modellen. Signals krypteringsprotokoll beskytter allerede samtalene i WhatsApp, men selve appen er fortsatt en brøkdel av størrelsen til Meta-produktet som er bygd på kryptoteknologien dens, og Whittakers påvirkningskraft overfor myndigheter hviler i stor grad på én trussel: at Signal heller forlater et land enn å svekke krypteringen. Hun har rettet den mot EU og, igjen i juni, mot Storbritannia. Trusselen er troverdig fordi en donasjonsfinansiert app ikke har aksjonærer å ta hensyn til, men den gjør også at Signals svar til tilsynsmyndighetene ligner mer på eksil enn på forhandling. Episoden som ga appen dens største oppmerksomhetsbølge, viste et lignende gap. Da det i mars 2025 ble avslørt at høytstående amerikanske tjenestepersoner hadde diskutert militære planer i en Signal-gruppe som ved et uhell inkluderte en journalist, forsvarte Whittaker krypteringen som gullstandarden for privat kommunikasjon og påpekte at ingen applikasjon kan hindre folk i å legge til feil person i en samtale. Publisitet i den skalaen er vanskelig å si nei til og enda vanskeligere å kontrollere.

Siden den gang har fokuset hennes flyttet seg fra myndighetene til selskapene som lager enhetene. I Davos i januar kalte hun KI-agenter på operativsystemnivå farlige for krypterte tjenester, og advarte om at et system med root-tilgang kan kapres. I et intervju med Bloomberg i juni sa hun at chatboter ikke er vennene dine, og beskrev en assistent med tilgang til betalingsopplysningene og Signal-kontoen hennes som en slags bakdør. Denne uken fant tester utført av Reuters sammen med ansatte fra Signal og AI Now at Metas Muse-agent leste Signal-samtaler på Android via tilgang til varsler, og Whittaker kalte agenter med slik rekkevidde teknologisk hensynsløse.

I 2023 satte TIME henne på sin første liste over de mest innflytelsesrike personene innen kunstig intelligens. I mai 2024 mottok hun Helmut Schmidt Future Prize i Hamburg, delt ut av Die Zeit og samarbeidspartnere for arbeid med demokrati og teknologi, og i juli 2025 gikk hun inn i styret i den tyske mediegruppen Hubert Burda Media.

Hva som skjer videre, avhenger mindre av Signal enn av Apple, Google og Microsoft. Whittaker har bedt alle tre om en dokumentert måte for apper å holde KI-agenter unna skjermene og dataene sine, og Signal sier de er forsiktig optimistiske til at Google og Apple tar kontakt. Hvis de bygger den, blir sperren hun slo på denne uken en bransjestandard. Hvis de ikke gjør det, kommer den mest private meldingstjenesten på markedet til å fortsette å levere omveier rundt telefonene den kjører på, og presidenten kommer til å fortsette å si fra om det offentlig.

Tagger: , , , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.