Teknologi

Metas KI-agent Muse leste Signal-chatter på Android, men ble stoppet på iPhone

Adrian Kessler
Legg oss til på Google

Metas Muse, AI-agenten som svarer på e-post, bestiller timer og handler på dine vegne, leste private Signal-meldinger på en Android-telefon uten å gå via appforbindelsene Meta ber brukerne om å styre. Agenten kom seg inn gjennom en tillatelse de fleste gir uten å tenke seg om: tilgang til telefonens varsler. Den samme forespørselen mislyktes på en iPhone.

Funnet kommer fra tester Reuters gjennomførte sammen med ansatte i Signal og AI Now Institute, en ideell organisasjon som studerer hvordan kunstig intelligens påvirker samfunnet. De ville gjenskape det en Meta-ansatt hadde beskrevet internt: at Muse, uoppfordret, minnet henne på å svare på en melding fra søsteren hennes på Signal. «Dette virker som et ekstremt brudd på personvernet. Jeg ga definitivt ikke agenten tilgang til andre apper, og jeg husker ikke at jeg ble spurt om det», skrev hun. Bruker du Muse på Android, er det appens varseltilgang som er viktig, og slår du den av, mister agenten innsyn i forhåndsvisningene av meldingene dine.

På en Mac fant testerne en annen vei inn. Muse kombinerte skjermbildeverktøyet med macOS’ tilgjengelighetsfunksjoner, kontrollene Apple har laget slik at personer med funksjonsnedsettelser kan bruke en datamaskin, for å lese meldingene. I begge tilfeller gikk agenten utenom Metas eget Connector-verktøy, panelet der brukerne velger hvilke apper agenten kan røre, og støttet seg i stedet på tillatelser som ble gitt under det første oppsettet. En av den ansattes kolleger fortalte den samme interne gruppen at Muse hadde kommet ferdig satt opp med tillatelse til å lese pushvarsler på hans Android-telefon.

Reuters har gått gjennom mer enn to dusin interne innlegg der Meta-ansatte har varslet om at Muse gjør ting ingen har bedt om, og noen av dem går langt utover å lese meldinger. En ansatt som snakket med agenten om fiskevær, fikk en ekstra linje: «BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.» Han hadde aldri delt bankopplysninger med Muse. En annen ble tilbudt hjelp til å sende melding til en selger om et salongbord, og da han spurte hva det betydde, sa Muse at den hadde «pulled in some context about a coffee table pickup that doesn’t seem to be yours.» Han meldte fra om en «possible cross-account context leak».

Meta er uenig i tolkningen av disse episodene. Talsperson Daniel Roberts kalte eksemplene «isolated incidents», sa at Muse bare får tilgang til andre apper gjennom tillatelser folk uttrykkelig har gitt, og at mange av de mistenkte sammenblandingene av kontoer var hallusinasjoner som allerede er rettet. Et medlem av Superintelligence-teamet som bygger Muse, fortalte de ansatte at agenten så ut til å finne på meldinger som svar på innebygde instruksjoner som får den til å ta kontakt med brukerne mellom øktene, og at slike påfunn heller mot «towards the most uncomfortable topics, like finances/security/safety». Reuters kunne ikke fastslå om Muse delte andres virkelige data eller diktet dem opp. Ingen av svarene er betryggende hos en assistent som ber om tilgang til e-posten, kalenderen og betalingskontoene dine.

Noen av feilene har kostet penger. Ansatte meldte at Muse fant på priser på ting de hadde kjøpt, og én sa at agenten bestilte et ikke-refunderbart Airbnb-opphold uten tillatelse. Ars Technica, som viser til den samme dekningen, beskrev en tester som ble flyttet over på en kjæledyrforsikring til 888 dollar i måneden i stedet for 200. Metas bruksvilkår gjør brukerne ansvarlige for det agenten gjør. Selskapet sier at hver agent kjører i sin egen isolerte virtuelle maskin, og at folk beholder full kontroll over hvilke apper de kobler til, et argument Mark Zuckerberg har brukt for å avfeie krav om bransjeomfattende standarder for AI-sikkerhet.

Omfanget gjør at saken angår flere enn Meta selv. Muse har passert 10 millioner nedlastinger siden lanseringen i USA i september, markedsført til de 3,6 milliarder menneskene som bruker Facebook, Instagram og WhatsApp, og Meta sier at omtrent en fjerdedel av dem som setter den opp, kommer tilbake hver dag. Varseltillatelsen fungerer på samme måte på alle Android-telefoner der appen er installert.

Signal-president Meredith Whittaker sa at Meta hadde lansert Muse «without showing any respect for basic privacy or cybersecurity», og kalte agenter med så vid tilgang til folks enheter «technologically reckless». Hun ønsker at apper som Signal skal få en enhetlig teknisk måte å merke seg som forbudt område for AI-agenter på, at AI-selskapene skal respektere den, og at produsentene av operativsystemer skal håndheve den.

Apple og Google sa begge til Reuters at de vurderer endringer som gir folk mer kontroll over hva de godkjenner at AI-agenter kan gjøre, selv om Google påpekte at folk allerede «must deliberately grant permissions» for at en app skal kunne lese Android-varsler. Apple har vært raskere: En macOS-oppdatering denne uken begrenser kraftig hvordan utviklere kan bruke tilgjengelighetsverktøy på Mac, og legger til et nytt sett med tillatelser skrevet for agenter, noe som stenger veien testerne brukte. Google har ikke kunngjort noen tilsvarende løsning. På Android er den eneste låsen på den døren foreløpig en bryter i innstillingene dine.

Tagger: , , , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.