Perplexity viste risikable nettbutikker i 15 prosent av svarene, ChatGPT i 8 prosent

Spør en KI-chatbot hvor du kan kjøpe et merke på nettet, og svaret kan inneholde en falsk butikk, en forhandler av kopivarer eller et gammelt merkenettsted som nå tilhører noen andre. En ny studie satte ChatGPT, Gemini og Perplexity på prøve med tusenvis av spørsmål om netthandel. Alle tre viste til slike nettsteder, og mindre merker var enklest å ramme. Hvis en chatbot hjelper deg med gavejakten denne sesongen, bør du behandle lenken den gir deg med samme skepsis som en tekstmelding fra en fremmed.

Studien er utført av Podqi, et selskap som beskytter merkevarers immaterielle rettigheter, og ble delt eksklusivt med The Verge. Podqi stilte chatbotene spørsmål en hvilken som helst kunde kunne skrive: Hvilke nettsteder er best for å kjøpe et bestemt merke? Hvor finner man det på nettet? Og sender det varer til utlandet via regionale nettsteder? Selskapet brukte en bred definisjon av risikable nettsteder, som med vilje omfattet sider som utgir seg for å være ekte forhandlere, butikker som selger kopivarer, utløpte merkenettsteder som fremmede har registrert på nytt, og nedlagte nettsteder som hvem som helst kan kjøpe og ta i bruk.

Perplexity kom dårligst ut og viste til et risikabelt nettsted i 15 prosent av svarene. ChatGPT lå på 8 prosent og Gemini på 4 prosent. Tallene bygger på 6 795 svar om 151 merker, fra Lululemon, Birkenstock og Le Creuset til streetwear-merker som Stüssy og Madhappy. Tallene teller hver gang et slikt nettsted dukket opp, også når en chatbot nevnte det for å advare mot det. ChatGPT var den mest forsiktige av de tre, men advarte bare mot 24 prosent av de risikable nettstedene den viste til.

Spørsmål om regionale nettbutikker skapte flest problemer. Når chatbotene ble bedt om å finne butikker for bestemte land, listet de noen ganger opp regionale nettsteder for merker som ikke har slike. I én samtale utpekte Perplexity feil side som Stüssys offisielle nettsted og kalte den «det beste stedet å begynne hvis du vil være sikker på at varene er ekte». Spørsmål om store selskaper førte til risikable nettsteder omtrent halvparten så ofte som spørsmål om mindre selskaper. Jo mindre kjent merket er, desto lettere er det altså for en svindler å snike seg inn i svaret.

Måten chatbotene presenterer svarene på, gjør problemet større. En side med søkeresultater viser flere alternativer og lar deg velge selv, mens en chatbot nevner én eller to butikker i en selvsikker setning som høres ut som en personlig anbefaling. KI-selskaper markedsfører aktivt assistentene sine til produktsøk og prissammenligning – nettopp i det øyeblikket kunden er i ferd med å taste inn kortnummeret sitt.

Studien har klare begrensninger. Podqi skrev egne spørsmål i stedet for å analysere ekte samtaler med brukere, og ett av merkene som ble undersøkt, Madhappy, er kunde hos Podqi. Selskapet selger dessuten merkevarebeskyttelse, og har dermed en interesse av at etterligning framstår som en alvorlig trussel. Resultatene viser ikke hvor mange som klikket på en risikabel lenke eller tapte penger, og de gjenspeiler modeller som endres med få ukers mellomrom.

Selskapene svarte med navn. Google sa at de var fornøyde med at Gemini gjorde det best, og viste til at tjenesten oppgir kildelenker slik at folk kan kontrollere svarene. OpenAI sa at de forbedrer sikkerhetstiltakene for å gjøre det mindre sannsynlig at villedende nettsteder dukker opp i søkeresultater for shopping. Perplexity forsvarte sin merittliste når det gjelder nøyaktighet og sa at selskapet aldri har hevdet å være 100 prosent nøyaktig.

Funnene passer inn i et større mønster. I september advarte cybersikkerhetsselskapet Eset om at svindlere publiserer store mengder sider fulle av søkeord, laget for å bli fanget opp av KI-verktøy og gjengitt til brukerne som pålitelige råd. Trevor West, medgrunnlegger av Podqi, gir et enkelt råd: «Det er alltid best å kontrollere kilden» før du oppgir personopplysninger eller kortinformasjon. Testene ble gjennomført i to omganger i september, og tidspunktet er relevant for kunder overalt der disse chatbotene er tilgjengelige: Black Friday 27. november og Cyber Monday 30. november sender millioner av førstegangsbesøkende til ukjente nettbutikker.

Tagger: OpenAI, chatgpt, Gemini, netthandel, Perplexity, chatboter