AI-klonede sjefsstemmer lurte sykehus og banker for 129 millioner dollar

Stemmen i telefonen hørtes ut som sjefen, og advokaten som ringte etterpå, hørtes ut som en partner i et av verdens største advokatfirmaer. Ifølge føderale påtalemyndigheter på Manhattan var ingen av dem ekte. De hevder at tre menn brukte kunstig intelligens til å etterligne toppsjefer og advokater, og fikk regnskapsmedarbeidere ved sykehus, banker og andre selskaper til å overføre penger for konfidensielle avtaler som aldri hadde eksistert. Pengene ble vekslet inn i kryptovaluta og fordelt mellom de sammensvorne.

Saken får konsekvenser langt utover selskapene som tapte penger. Ingen brøt seg inn i et datasystem. Svindelen bygget på noe nesten alle kontoransatte gjør uten å tenke seg om: å stole på en kjent stemme som ber om hjelp. En toppsjefs taler, presentasjoner av kvartalsresultater og opptredener på konferanser er offentlig tilgjengelige, og programvare for stemmekloning kan bruke slikt lydmateriale. Hvis en svindler kan høres ut som lederen din, er ikke en telefonsamtale lenger noe bevis på hvem som er i den andre enden.

Jacob Soall, 41, som bor i Marbella i Spania og i Storbritannia, Sharon Hazan, 54, fra Israel, og Guy Sheetrit, 42, fra Israel og De forente arabiske emirater, er tiltalt i saken, som er reist ved den føderale domstolen for New Yorks sørlige distrikt. Hver av dem er tiltalt for sju lovbrudd, blant annet konspirasjon om å begå bedrageri ved elektronisk overføring, grovt identitetstyveri og hvitvasking av penger. Påtalemyndigheten hevder at gruppen tok rundt 129 millioner dollar fra selskaper i USA og andre land.

Ifølge tiltalen var fremgangsmåten stort sett den samme hver gang. Det begynte ofte med en e-post sendt via en elektronisk signeringstjeneste som DocuSign, tilsynelatende fra målets egen toppsjef, med en forespørsel om hjelp til en hemmelig transaksjon og en taushetserklæring vedlagt. Deretter kom telefonsamtalene, der de sammensvorne angivelig brukte KI til å etterligne lederens stemme og iblant også utseende. Den falske toppsjefen satte medarbeideren over til en falsk advokat, som som regel lånte navnet til en ekte advokat ved et europeisk kontor i et av verdens 50 største advokatfirmaer. Soall hadde ifølge påtalemyndigheten et håndskrevet manus med tittelen «Lawyer Call», der han viste til taushetsplikt og regler mot innsidehandel for å hindre ansatte i å snakke med kollegene sine.

Ofrene er ikke navngitt, men tapene som er oppført i tiltaledokumentene, gir et tverrsnitt av økonomien. Et sykehussystem i Missouri overførte 4 829 580 dollar. En bank i Rhode Island tapte 2 684 580 dollar, og et sykehussystem i California tapte 2 968 497 dollar. Et britisk finansteknologiselskap tapte 11 578 474 dollar, et aksjefondsselskap i Massachusetts 4 639 918 dollar og et selskap som produserer kjæledyrfôr i Florida 5 242 747 dollar. Pengene gikk til kontoer i USA, Spania, Portugal, Hellas, De forente arabiske emirater, Singapore, Østerrike, Slovakia og Kina før de ble vekslet inn i krypto.

Én av de utpekte målene slapp unna. I en stor investeringsbank i New York godkjente en ansatt en betaling på rundt 2,85 millioner dollar, men bankens administrasjonsavdeling stanset overføringen før den gikk ut, ifølge påtalemyndigheten. Det som hindret svindelen, var et ekstra menneskelig blikk – ikke en deepfake-detektor.

KI-delen er nyere enn selve forbrytelsen. I sin kunngjøring omtaler justisdepartementet verktøyene som «super intelligence», mens tiltalen viser til kunstig intelligens. Ingenting i de offentlige dokumentene tyder på at verktøyene var mer avanserte enn kommersielt tilgjengelig teknologi for kloning av stemmer og ansikter. Resten følger en gammel oppskrift: falske e-poster fra ledere, penger som flyttes gjennom kontoer i flere land, og deretter hvitvasking. Påtalemyndigheten hevder at Hazan, som ble dømt for konspirasjon om bankbedrageri i samme domstol i 2008, skrøt av at han hadde hvitvasket mer enn 400 millioner dollar på tre år og var «nummer én over hele verden». Dette er påstander, ingen av de tre er dømt, og påtalemyndigheten har ikke opplyst hvor mye penger som er gjenvunnet, eller hvilke kloningsverktøy som ble brukt.

Selskaper har sett dette komme. Ingeniørselskapet Arup tapte rundt 25 millioner dollar i 2024 etter at en ansatt i Hongkong deltok i en videosamtale der de andre deltakerne var deepfakes. De vanlige rådene er fortsatt de samme: Ring lederen tilbake på et nummer du allerede har, krev en ekstra godkjenner for store overføringer, og se krav om hemmelighold som et faresignal. «Jeg oppfordrer enkeltpersoner og næringslivet til å vurdere hvordan de best kan beskytte seg mot den nye trusselen fra kriminalitet muliggjort av superintelligens», sa Jamie McDonald, føderal statsadvokat i USA.

Den angivelige konspirasjonen pågikk fra minst juli 2024 til februar 2026. Soall ble pågrepet i Spania 17. juni, Hazan i Spania 5. august, og Sheetrit ble pågrepet i Storbritannia 7. september. Tiltalen ble offentliggjort den første uken i november, og begjæringer om utlevering av alle tre er fortsatt til behandling. Bedrageri ved elektronisk overføring og hvitvasking av penger kan hver gi opptil 20 års fengsel. FBI ber andre mulige ofre ta kontakt via tipssiden deres.

Banken som beholdt pengene sine, hadde ikke bedre KI. Den hadde en medarbeider på administrasjonsavdelingen som så på overføringen før den gikk ut.

Tagger: Folarin Balogun, Baker Mayfield, Meghan Markle, cybersikkerhet, deepfakes, stemmekloning