Teknologi

Wells Fargos nye vilkår gjør kunden ansvarlig for feilene til AI-agenten

Susan Hill
Legg oss til på Google

Wells Fargo skriver om avtalen bak appen og nettstedet sitt, slik at alt en ekstern AI-agent gjør på en kundes konto, regnes som kundens egen handling. Banken sier at den vil følge agentens instruksjoner uten å kontrollere dem, at den ikke vil overvåke hva agenten gjør, og at agentens feil skal behandles som kundens. «Din bruk av enhver AI Agent skjer PÅ EGET ANSVAR», heter det i de nye vilkårene, med store bokstaver.

For alle som har gitt fra seg et bankpassord til en shoppingbot eller en budsjettassistent, endrer dette hvem som betaler når programvaren tar feil. En dobbel betaling, en bestilling som legges inn ti ganger eller en overføring utløst av en bløffpreget nettside, havner hos kontoinnehaveren og ikke hos banken, med mindre en lov sier noe annet. Ingen trenger å signere noe: kunder som fortsetter å bruke nettbanken etter endringen, anses å ha godtatt den. «Forbrukere godkjenner mål, ikke hvert eneste klikk», sa Kacy Kim, professor i markedsføring ved Bryant University som forsker på forbrukeratferd, til Wired.

Definisjonen er vid. Wells Fargo kaller all programvare som utfører «autonome, delvis autonome eller ikke-autonome handlinger» på vegne av noen, for en «AI Agent», noe som rekker langt utover chatbotene som selges som personlige assistenter. Kunden bærer kostnaden når en agent misforstår instruksjoner, gjør ting ingen har bedt om, handler på grunnlag av «manipulerte inndata» eller går utover fullmakten den har fått. Agenter som drives av personer kunden slipper inn på kontoen, omfattes av de samme reglene, og ingen under 18 år kan koble til en agent i det hele tatt.

Det er også kundens oppgave å skru av en agent. Vilkårene sier at kundene selv må trekke tilbake agentens tilgang, ta vare på bevis for at de har gjort det, og levere fra seg beviset hvis banken ber om det. Helt til de gir Wells Fargo beskjed, er de ansvarlige for alt agenten gjør. Det følger logikken i den amerikanske regelen om elektroniske overføringer, Regulation E, som behandler overføringer foretatt av en person du har gitt kortet eller påloggingen din til, som autoriserte helt til du ber banken stanse dem.

Wells Fargo slipper fortsatt inn agenter, noe som plasserer banken i den tillatende enden av en bransje som er i ferd med å lukke døren. JPMorgan Chase har endret vilkårene sine for å forby tredjepartsagenter som logger inn med kundens påloggingsinformasjon, Bank of America har advart kundene mot å dele påloggingen med agenter, og Citibank og PNC har lagt til egne advarsler, ifølge Wired. Morgan Stanley har blokkert tredjepartsagenter fra plattformene sine, melder Axios. Wells Fargo har beholdt retten til å kutte forbindelsene agentene bruker, eller til å blokkere enhver agent helt.

Motstanden strekker seg utover banksektoren. Amazon har blokkert Metas Muse-agent fra å foreta kjøp i nettbutikken sin, og United Airlines har sagt at personlige boter ikke vil kunne kjøpe flybilletter for reisende. American Express er det sjeldne unntaket i Wireds fremstilling: selskapet sa at enkelte agentfeil, som å bestille for mange av en vare, kan komme til å gi rett til refusjon i fremtiden hvis kunden ikke får pengene tilbake fra forhandleren.

Hvor mye de nye formuleringene endrer i praksis, er uklart. Klausulene viser gjentatte ganger til «lov eller forskrift», og ingen domstol har avgjort hvem som bærer tapet når en agent kunden har slått på, gjør noe kunden aldri hadde til hensikt. Publikummet er også lite. «Alle våre data viser at de fleste ikke engang vet hva agenter er, enn si bruker dem», sa Forrester-analytiker Sucharita Kodali til Wired. Og bankene er ikke mot agenter som sådan. «De låser døren for eksterne agenter og bygger sine egne», sa Luca Cian, professor ved University of Virginia som forsker på forbrukerpsykologi og AI. Wells Fargos egen generative AI-assistent har håndtert mer enn én milliard interaksjoner.

De nye vilkårene gjelder bare kunder av Wells Fargos amerikanske nett- og mobilbank, og alle bankene som er nevnt så langt, er amerikanske. I EU presser betalingsreglene allerede apper som leser eller flytter penger, mot lisensierte tilkoblinger levert av banken i stedet for et delt passord, noe som levner mindre rom for agenter som logger inn som kunden.

Den oppdaterte Wells Fargo-avtalen trer i kraft tirsdag 24. november og gjelder alle som fortsetter å bruke bankens nettsted eller app etter den dagen. JPMorgans forbud mot agenter som bruker påloggingsinformasjon, kom i slutten av oktober, samme dag som Bank of America sendte ut advarselen sin. Wells Fargo har også beholdt muligheten til å kreve at kundene registrerer agentene sine hos banken, noe som ville gi den en liste over botene den sier den ikke overvåker.

Tagger: , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.