Yann LeCun til akademia: «Dere bør absolutt ikke jobbe med LLM-er»

Yann LeCun har i årevis fortalt AI-bransjen at store språkmodeller er en omvei. I et foredragsklipp som nå sprer seg på X, retter Turingprisvinneren advarselen mot et mindre og mer sårbart publikum – forskerne ved universitetene – og legger ikke fingrene imellom.

«Dere bør ikke jobbe med LLM-er. I hvert fall ikke hvis dere jobber ved et universitet; da bør dere absolutt ikke jobbe med LLM-er. Dere har ingenting å bidra med. Hvis dere er interessert i å gjøre remskritt innen AI, i en slags forankret AI for den virkelige verden, hvis dere vil jobbe med fysisk AI, så ikke jobb med LLM-er, og ikke jobb med generative modeller heller.»

Han sa dette ved ETH Zurich under foredraget «World Models: Enabling the Next AI Revolution» på foredragsserien Frontiers of Embodied AI 29. mai. AI-kommentatoren Rohan Paul la ut klippet denne uken som LeCuns «siste foredrag», selv om det er fire måneder gammelt. Den neste replikken utløste latter: «Så dere kan sikkert gjette at dette ikke gjør meg særlig populær i Silicon Valley.» Lysbildet bak ham, med tittelen «Recommendations to my fellow AI scientists», avsluttes med røde versaler: «Hvis du er interessert i AI på menneskenivå, ikke jobb med LLM-er.»

Første halvdel handler om regnekraft

Ser man bort fra provokasjonen, handler rådet til akademikere om økonomi. Framgang innen store språkmodeller kjøpes med treningskjøringer på dataklynger som bare en håndfull selskaper har råd til. En doktorgradsstipendiat kan ikke bidra stort i et kappløp som avgjøres av budsjetter. Det er dette «dere har ingenting å bidra med» betyr i praksis. LeCun har fremmet dette poenget en stund: På VivaTech i Paris i 2024 fortalte han, ifølge VentureBeat, studenter som ville utvikle neste generasjon AI, at LLM-er var på hendene til de store selskapene.

Lysbildet lister også opp hva han mener forskerne heller bør bruke tiden på. Arkitekturer med felles innleiring framfor generative modeller. Energibaserte modeller framfor probabilistiske. Regulariserte metoder framfor kontrastive metoder. Modellprediktiv styring framfor forsterkningslæring, som han bare ville beholdt for å korrigere en plan når verden ikke oppfører seg som forutsagt. Dette er ideer som kan prøves ut med moderat maskinvare, og nettopp der har universitetslaboratoriene fortsatt et fortrinn.

Den andre halvparten er den egentlige provokasjonen

«Ikke jobb med generative modeller heller» går lenger enn den vanlige kritikken av chatboter. Det er et nei til generering i seg selv – ideen om å bygge intelligens ved å forutsi neste ord eller piksel – og dermed havner LeCun på kant med store deler av fagfeltet fysisk AI, som ofte plasseres i samme kategori som arbeidet hans. Forrige uke gikk AMD med på å kjøpe Fei-Fei Lis World Labs i en aksjehandel verdsatt til rundt 8,2 milliarder dollar. The Register beskrev oppkjøpet som en sikring mot at LLM-er viser seg å være en blindvei, og påpekte at LeCun har sagt det samme. Likevel utvikler World Labs modeller som genererer og simulerer 3D-miljøer. Også Cosmos 3 fra NVIDIA er en generativ verdensmodell, og Physical Intelligence bygger robotmodellene sine på toppen av syns- og språkmodeller. Pengene som går til «verdener, ikke ord», går stort sett ikke til LeCuns versjon av dette.

Råd fra en mann med eierandeler

Man må også ta hensyn til hvem som gir rådet. LeCun sluttet i Meta og er nå arbeidende styreleder i AMI Labs i Paris. I mars hentet selskapet inn 1,03 milliarder dollar til en verdsettelse på 3,5 milliarder dollar – Europas største såkornrunde – for å utvikle verdensmodeller som et alternativ til LLM-er. Selskapet bygger opp staben i Paris, New York, Montreal og Singapore. Hver forsker som følger rådet hans, kan bli en potensiell nyansatt.

Det betyr ikke at rådet er kynisk. Han sto for dette synet før AMI eksisterte, og omdømmet hans fikk betale prisen lenge før investorene betalte med penger. Men i 2026 peker forskningsrådet og forretningsplanen i nøyaktig samme retning, og studentene bør vurdere det deretter.

LeCun spøkte med at uttalelsen koster ham venner i Silicon Valley. For en student som skal velge tema for doktorgraden, står mer på spill: å satse doktorgraden på arkitekturen han nettopp har hentet inn en milliard dollar for å bevise verdien av.

Tagger: Large Language Models, World models, AMI Labs, ETH Zurich, Yann LeCun