Teknologi

OpenRouter kaster ut tre KI-leverandører etter måneder med stjålne prompter

Adrian Kessler
Legg oss til på Google

OpenRouter, tjenesten mange AI-apper bruker for å sende prompter til den modellverten som er billigst eller raskest, har fjernet tre av disse vertene fra plattformen sin og tatt Zero Data Retention-merket fra mer enn hundre endepunkter. Utløseren var et eksperiment der falske innloggingsdata ble plantet i prompter, for så å se hvem som forsøkte å bruke dem. Noen av promptene som lekket, var merket med at de aldri skulle lagres.

Bruker du en chatbot, en kodeassistent eller et skriveverktøy bygget på andres modell, kan teksten din gå gjennom flere selskaper før svaret kommer tilbake, og alle kan lese den i sin helhet. OpenRouter sier at funnene ikke viste noe innbrudd i selskapets egne systemer. De svake punktene lå lenger ned i kjeden, hos selskapene som faktisk driver modellene.

Forskningen kommer fra Dragos, et sikkerhetsfirma der forskningssjef HD Moore ledet arbeidet. I løpet av fem måneder sendte teamet hans nesten to millioner prompter, hver med en nettlenke, et serverpassord eller en Amazon Web Services-nøkkel som ikke fantes noe annet sted. En plantet hemmelighet kan bare oppdages gjennom prompten som bar den, så all bruk av en slik hemmelighet beviser at noen har lest akkurat den prompten. De første tokenene ble brukt i løpet av få dager.

Det alvorligste funnet var rent tyveri. Angripere hadde brutt seg inn hos tre inferensleverandører, og ingen av de tre visste om det før forskerne sa fra. I det største tilfellet ble hver eneste forespørsel som ble sendt til én leverandør i løpet av noen korte tidsvinduer, kopiert, også forespørsler leverandøren avviste før en modell i det hele tatt hadde kjørt, noe som plasserer tyven ved inngangsdøren og ikke dypt inne i systemet. De stjålne AWS-nøklene ble testet, noen ganger i løpet av timer, og deretter brukt til å søke gjennom lagring og hemmelighetsvelv i titusenvis av API-kall. Noen av de stjålne forespørslene bar flagget for null lagring.

Andre lekkasjer krevde ikke innbrudd. På en videresalgsmarkedsplass la selgere ut populære modeller til laveste pris, slo på logging av forespørsler og beholdt alt som passerte. En person på en hjemmetilkobling i Frankrike hentet passord fra to prompter og forsøkte å logge inn som root over SSH, og skrev hvert forsøk for hånd. Separat hentet et kinesisk AI-laboratorium de hemmelige lenkene fra mer enn halvparten av promptene som ble sendt til modellene dets, deriblant omtrent to tredjedeler av dem som var merket for ingen datainnsamling, og amerikanske verter som videreselger modellene, matet den samme skraperen. Én lenke dukket opp i en arbeidschat i Feishu, åpnet fra seks enheter i Beijing og Shanghai, 24 dager etter en enkelt forespørsel.

Tre verter har publisert varsler. Phala sa at en angriper tok kontroll over en av inferensserverne deres og kunne se forespørsler mens de ble behandlet. Together AI sa at en AI-kodeagent la inn en påloggingsinformasjon i et offentlig GitHub-repositorium, noe som lot en inntrenger laste ned lagrede promptprøver og teste passordene i dem; fem av dem var forskernes lokkemat. Novita sa at en rutingfeil sendte noen MiniMax-forespørsler videre til MiniMax’ egen tjeneste.

Oppryddingen har tydelige begrensninger. OpenRouter har ikke navngitt de tre leverandørene som ble fjernet, Dragos har ikke navngitt de tre de fant var kompromittert, og ingen av dem har sagt om det er de samme selskapene. En kompromittert leverandør hadde ifølge forskerne fortsatt ikke offentliggjort hendelsen sin. Å kaste ut en vert kan heller ikke kalle tilbake prompter som allerede er kopiert: plantede nøkler og lenker ble fortsatt brukt uker etter de første tyveriene. Og folk som bruker en app bygget på disse portalene, har vanligvis ingen mulighet til å se hvilken vert som håndterte teksten deres.

Moores råd tar utgangspunkt i én begrensning: et personvernflagg binder bare det første leddet, og AI-agenter sender alt de kan lese, inkludert påloggingsinformasjon. Egen drift er det eneste oppsettet der ingen tredjepart leser en prompt. Å gå direkte til én stor leverandør gir én kontrakt og én personvernerklæring å sjekke, og brukere av rutere bør velge oppstrømsvertene selv i stedet for å godta den billigste puljen.

Dragos publiserte funnene sine 19. november. OpenRouter sendte e-post til berørte kunder og publiserte sitt hendelsesvarsel i løpet av helgen som fulgte, og Phala ber alle som sendte hemmeligheter til én DeepSeek-modell gjennom portalen mellom 21. oktober og 8. november, om å bytte dem ut. OpenRouter sier at selskapet bygger forskernes lokkeprompt-tester inn i sin egen plattform slik at kontrollene kjører kontinuerlig, og at fjernede endepunkter får tilbake merket for null lagring først etter forsikringer og validering. Dragos samarbeider nå med rundt et dusin leverandører.

Som Moore sa det, er det en beslutning hvor promptene dine havner, «og hvis du ikke tar den, tar den laveste prisen den for deg».

Tagger: , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.