Teknologi

Mistral Large 4 er gratis, men krever en Mac til 22 299 dollar

Adrian Kessler
Legg oss til på Google

Mistral har publisert de fullstendige modellvektene til Mistral Large 4, modellen selskapet har gitt kallenavnet Le Chonk. Dermed kan hvem som helst laste den ned, endre den og kjøre den på egen maskinvare. Det franske AI-laboratoriet sier at den nå er den sterkeste åpne modellen for kodeutvikling og defensivt sikkerhetsarbeid, som å gjenskape en programvarefeil og deretter rette den. For dem som håper å kjøre modellen hjemme, er det størrelsen som er utfordringen.

Le Chonk har rundt én billion parametere, hvorav 49 milliarder er aktive for hvert ord modellen produserer. Selv de mest komprimerte versjonene – 2-bitsutgaver laget av llama.cpp-teamet og Unsloth – krever én Apple Silicon Ultra-maskin med 512 GB enhetlig minne, ifølge Hugging Face. Den eneste Mac-en Apple selger med så mye minne, er en Mac Studio med M5 Ultra-brikke. 9to5Mac melder at en slik maskin koster 22 299 dollar i USA. Alle andre løsninger krever at flere avanserte grafikkort arbeider sammen.

Mistrals argument for modellen handler først og fremst om kode. Selskapet sier at den oppnår 41 prosent på Terminal-Bench 4.0, en test av AI-agenter som arbeider i en kommandolinje, det beste resultatet blant åpne modeller. Mistral sier også at modellen ligger på nivå med GLM-5.3 på Artificial Analysis’ indeks for kodeagenter, samtidig som den bruker 47 prosent færre token per oppgave og dermed er billigere å kjøre. I blinde sammenligninger hos Surge foretrakk vurdererne koden den skrev, framfor koden fra GLM-5.3, Kimi K3 og DeepSeek V4.1 Flash. Bare Anthropics Claude Opus 5.5 ble rangert høyere.

Sikkerhetsargumentet retter seg mot dem som skal forsvare systemene. Hugging Face sier at modellen fikk 82 prosent på en oppgave fra Artificial Analysis, der en modell skal gjenskape en reell sårbarhet i åpen kildekode-programvare og deretter rette den. Ifølge Hugging Face opplyser Mistral at flere lukkede frontmodeller ligger nær null på denne oppgaven fordi de nekter å forsøke. En bank eller offentlig etat kan kjøre modellen på egne servere, mate den med egen kode og egne krasjlogger, og fortsette å bruke den dersom en leverandør endrer vilkårene sine. «AI kommer til å bli som elektrisitet. Du vil ikke leve i en verden der naboen kan kutte strømmen fra den ene dagen til den andre», sa Pierre Stock, Mistrals visepresident for forskning, til journalister, ifølge Wired.

De fleste av disse tallene kommer fra Mistral selv, baserer seg på referansetester selskapet har valgt, og er knapt blitt prøvd av uavhengige aktører. På Artificial Analysis’ samlede intelligensindeks plasserer Hugging Face modellen på femteplass blant åpne modeller, ikke på førsteplass. Sikkerhetsargumentet har også en bakside. Mistral skrev at selskapet under forhåndsvisningen fulgte direktetrafikk og så «et potensial for å styrke evnen til å gjennomføre reelle angrep», og at det nå strammer inn sikkerhetstiltakene. Men de offentlige modellvektene kan lastes ned og tilpasses av hvem som helst, også angripere. «Dette er åpenbart teknologi med to bruksområder», sa Rafe Pilling, senior direktør for trusseletterretning hos Sophos, til Wired.

Selv med riktig Mac innebærer bruk hjemme også kompromisser. Hugging Face kjørte 2-bitsutgaven på en eldre M3 Ultra Mac Studio og fikk rundt 15 token i sekundet – godt nok til samtaler, men tregt for lange kodeoppgaver. Med fire Nvidia RTX 6000 Pro-kort og svært lange dokumenter falt hastigheten til rundt 3 token i sekundet. Å presse modellen ned til 2 bit går dessuten ut over nøyaktigheten sammenlignet med fullversjonen Mistral brukte i referansetesten.

Modellvektene er tilgjengelige for nedlasting fra Hugging Face over hele verden, under Mistral Ecosystem Open-Weight License, en modifisert MIT-lisens som tillater gratis bruk, finjustering og kommersielle produkter. Det finnes ett unntak: Selskaper som selger modellen som en driftet tjeneste, må ha en separat kommersiell lisens fra Mistral. Alle andre kan også bruke den via Mistrals API, til 0,70 dollar per million inndata-token og 2,10 dollar per million utdata-token, eller gjennom OpenRouter og Microsoft Foundry. Mistral lanserte en forhåndsversjon tidligere i oktober og publiserte de endelige modellvektene 29. oktober. Apple opplyser at Mac Studio-maskiner bestilt med 512 GB minne vil bli levert mellom slutten av november og begynnelsen av desember.

«Når du først har gjort modellvektene åpent tilgjengelige, er de overalt på internett. Det er umulig å stenge tilgangen», sa Stock til Wired. For alle som ikke har en datamaskin til 22 299 dollar, er det minneprisen som setter grensen.

Tagger: , , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.