Microsoft kalte AI-skraping «det største tyveriet av arbeid i historien» i sine egne dokumenter

En Microsoft-forsker satte ord på det selskapet holdt på å bygge, og ordet var ikke smigrende. Da han vurderte hvordan store språkmodeller lærer fra det åpne nettet, kalte han det «det største arbeidstyveriet i menneskets historie». Setningen var skrevet for interne øyne. Nå er den et rettsbevis.

Utsagnet blir presentert som en avsløring: KI-gigantens egen ansatte kaller forretningsmodellen for tyveri. Den tolkningen er for snever. Det de offentliggjorte dokumentene faktisk viser, er et selskap som forsto mekanismen det tjente penger på, beskrev den mekanismen med enkle ord, og likevel sendte produktet ut. Det interessante er ikke fornærmelsen. Det er diagrammet under.

Dokumentet tilhører Brent Hecht, Microsofts direktør for anvendt vitenskap, og det dukket opp i den opphavsrettssaken The New York Times har anlagt mot OpenAI og Microsoft. Hecht argumenterte for at trening av modeller på publisert arbeid uten betaling utgjorde et «forbløffende tyveri av uante proporsjoner». En separat intern presentasjon gikk enda lenger inn i maskineriet: den advarte om at Microsofts AI-innholdsstrategi hadde startet en «dommedagssløyfe» som ville «skade ytelsen til modellene våre og hele nettet samtidig». Store språkmodeller, lød en setning, er «et produkt som ødelegger sin egen forsyningskjede».

Den siste setningen er hele historien på sju ord. En chatbot som svarer på et spørsmål i søkeboksen, fjerner grunnen til å klikke seg videre til siden den lærte fra. Færre klikk betyr mindre inntekter for nettstedene som produserer teksten, noe som betyr at færre av dem overlever, noe som betyr mindre fersk menneskeskapt tekst for neste modell å trene på. Microsoft teoretiserte ikke denne sløyfen fra utsiden. Selskapets egne data målte den: Copilots svarmotor førte til at klikkraten til Times’ nettsted falt med opptil 93 prosent sammenlignet med vanlig søk.

Dokumentene kvantifiserer også inngangssiden av handelen. OpenAIs midtveis treningsdata inneholdt mer enn 91 000 kopier av verk fra Times, Daily News og Center for Investigative Reporting. Et datasett hentet fra Common Crawl hadde over to millioner dokumenter fra nytimes.com alene. En samling merket Project Mango inneholdt minst 160 000 unike verk fra nyhetsutgivere. Dokumentene beskriver betalingsmurer som er omgått og opphavsrettsmerknader som er fjernet fra teksten før den ble matet inn.

OpenAIs egne ledere var ikke naive når det gjaldt effekten. Nick Turley, som driver ChatGPT, siteres på å beskrive produkter som er «i stor grad erstattende» for journalistikk og kaller endringen for en «eksistensiell trussel» mot utgivere. Det er den samme konklusjonen Hecht kom frem til, arkivert under en annen jobbtittel.

Her er hvorfor språket betyr noe utover forlegenhet. Microsoft har tatt avstand fra uttalelsene og fortalt retten at selskapets faktiske posisjon er i samsvar med opphavsrettsloven, og ingen av selskapene ønsket å kommentere lekkasjen. Men et rimelig bruk-forsvar avhenger delvis av hva et selskap visste og hadde til hensikt. Dokumenter der selskapets egne forskere navngir skaden – tyveri, en ødelagt forsyningskjede, et uttømt nett – er ikke meninger selskapet bare kan avvise. De leses som bevis på at mekanismen var forstått før den ble skalert.

Nettet disse modellene lærte fra, ble bygget av mennesker som antok at det satt en leser i andre enden. Microsofts filer viser at selskapet visste, skriftlig, at leseren ble konstruert ut, og fortsatte å bygge.

Tagger: OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits, The New York Times