Teknologi

Apple godkjenner TinyGPU — Mac Mini klar for store AI-modeller

Susan Hill

Apple har offisielt signert driveren TinyGPU, utviklet av Tiny Corp grunnlagt av programmereren George Hotz. For første gang siden overgangen til Apple Silicon kan Mac-brukere koble til et eksternt Nvidia- eller AMD-grafikkort og bruke det til AI-beregninger — uten å omgå systemets sikkerhetsmekanismer.

Siden Apple gikk over til egne chip i 2020 var det i praksis umulig å bruke eksterne grafikkort på Apple Silicon-maskiner. Tidligere forsøk krevde at brukeren deaktiverte System Integrity Protection (SIP), et sentralt sikkerhetslag i macOS som Apple aldri har støttet offisielt å omgå. TinyGPU løser dette ved å kjøre innenfor macOS’ normale sikkerhetsrammer via Apples DriverKit-mekanisme og aktiveres enkelt via systeminnstillingene uten noen form for systemmodifikasjon.

Ifølge Tiny Corps egne tester kjører en Mac Mini koblet til en AMD Radeon RX 7900 XTX via Thunderbolt modellen Qwen 2.5 27B med 18,5 tokens i sekundet. Med en ekstern RTX 4090 registrerer community-benchmarks mellom 45 og 50 tokens i sekundet for Llama-modeller i Q4-kvantisering — et ytelsesnivå som tidligere krevde dedikert maskinvare til en langt høyere pris.

Hva driveren kan — og ikke kan

TinyGPU er utelukkende beregnet på AI-beregninger. Den akselererer ikke skjermutdata, forbedrer ikke spillytelse og erstatter ikke Apple Silicons integrerte GPU til videoredigering eller grafikkarbeid. AMD-kort fra RDNA3-generasjonen og fremover fungerer med en relativt enkel installasjonsprosess; Nvidia-kort fra Ampere-generasjonen og fremover krever Docker Desktop, noe som forutsetter kjennskap til utviklingsmiljøer. Thunderbolt 4s båndbredde utgjør dessuten et fysisk tak: det samme grafikkortet presterer merkbart bedre i et nativt PCIe-spor enn via ekstern kabeltilkobling.

Mac Pro avviklet — Mac Mini oppgradert

Det ble kjent at Apple i samme måned stiltiende avviklet Mac Pro og fjernet produktsiden fra nettstedet sitt uten offisiell melding og uten å presentere en etterfølger. Mac Pro var Apples eneste modulære stasjonære datamaskin — den eneste som ga profesjonelle brukere mulighet til å utvide regnekraften med egne maskinvarekomponenter. Godkjenningen av TinyGPU fremstår som Apples implisitte svar: brukere med behov for kraftig AI-beregning på Mac vil fremover oppnå dette ved å koble ekstern maskinvare til en Mac Mini, ikke ved å kjøpe et proprietært tårn.

Ifølge Tom’s Hardware og TechRadar er dette den første tredjeparts compute-driver for eksterne GPU-er på Apple Silicon som er offisielt godkjent av Apple via DriverKit — et bemerkelsesverdig presedens for et tradisjonelt lukket økosystem.

For brukere som allerede bruker Mac Mini som lokal AI-inferensserver via verktøy som Ollama eller llama.cpp, er endringen umiddelbar: modeller som overskred kapasiteten til unified memory kan nå ligge fullt ut i VRAM-en på en ekstern GPU, noe som eliminerer fragmentering og forbedrer behandlingshastigheten vesentlig.

Minimumskravene er macOS 12.1 eller nyere, en Thunderbolt 3-, Thunderbolt 4- eller USB4-port og et kompatibelt grafikkort i et eGPU-kabinett med tilstrekkelig strømforsyning. TinyGPU er tilgjengelig via Tiny Corps offisielle dokumentasjon og GitHub-repository.

Diskusjon

Det er 0 kommentarer.