- TinyGPU muliggjør kjøring av AI-modeller direkte på Mac med eksterne GPU-er
- Brukere kan nå utnytte AMD- og Nvidia-kort uten å omgå systembeskyttelse
- TinyGPU støtter macOS 12.1 eller nyere med Thunderbolt eller USB4
Apple Silicon-datamaskiner er lenge blitt rost for sin effektivitet og tette integrasjon mellom maskinvare og programvare, men de har ikke vært spesielt godt egnet til eksterne GPU-er.
Det endret seg da Apple offisielt godkjente TinyGPU, en driver som lar eGPU-er fungere som AI-akseleratorer på Apple Silicon-maskiner.
Godkjenningen betyr at brukere nå kan utnytte kraftige AMD- og Nvidia-kort til AI-oppgaver uten å måtte omgå systembeskyttelse som SIP.
Offisiell godkjenning åpner AI-muligheter for Mac-brukere
«Hvis du har en Thunderbolt- eller USB4 eGPU og en Mac, er i dag dagen du har ventet på! Apple har endelig godkjent driveren vår for både AMD og NVIDIA», skrev TinyCorp på X.
TinyGPUs funksjonalitet er utelukkende fokusert på AI-arbeidsbelastninger i stedet for tradisjonell grafikk, slik at komplekse modeller kan kjøres direkte på en Mac mini eller andre kompatible Apple Silicon-enheter.
TinyGPU-driveren støtter macOS 12.1 eller nyere, samt enheter utstyrt med USB4- eller Thunderbolt 3- og 4-porter.
AMD GPU-er fra RDNA3-generasjonen og utover og Nvidia-kort fra Ampere-serien er kompatible.
Brukere kan kjøre AMD-arbeidsbelastninger direkte, mens Nvidia GPU-er krever en Docker Desktop-installasjon for å kjøre AI-beregning via NVCC.
Når driveren er installert og godkjent på systemet, kan selv krevende AI-modeller som Qwen 2.5 27B kjøre effektivt.
TinyGPUs tinygrad-rammeverk gir det nødvendige beregningsgrensesnittet og tilbyr en strømlinjeformet måte å akselerere AI-arbeidsbelastninger på som tidligere ikke var mulig.
Tidspunktet for denne utviklingen sammenfaller med den permanente pensjoneringen av Mac Pro.
Apple har fjernet Mac Pro fra nettstedet sitt og omdirigerer nå modellsiden til den generelle Mac-siden.
Rapporter tyder på at det ikke er planlagt noen ny Mac Pro-maskinvare, noe som effektivt sett avslutter en produktlinje som bare har blitt oppdatert tre ganger de siste fjorten årene.
Rykter om en M4 Ultra-variant ble aldri noe av, noe som tyder på begrenset salg og en opplevd mangel på etterspørsel etter avanserte stasjonære arbeidsstasjoner.
For mange betyr dette at Apple Silicon-datamaskiner mangler et modulært arbeidsstasjonsalternativ, men eGPU-er tilbyr nå en mulig vei for brukere som trenger høy ytelse AI.
Å kombinere TinyGPU med en Mac mini eller andre Apple Silicon-systemer åpner for nye muligheter for både profesjonelle brukere og entusiaster.
Muligheten til å koble til eksterne GPU-er og kjøre AI-verktøy direkte i macOS introduserer et visst nivå av fleksibilitet.
Som TinyCorp sa det: «Det er så enkelt å installere nå at en Qwen kan gjøre det – og deretter kjøre den Qwen», noe som gjenspeiler driverens tilgjengelighet og innvirkning.
Selv om Apple har beveget seg bort fra tradisjonelle arbeidsstasjons-PC-er, lar eGPU-støtte nå brukere gjøre mer beskjeden maskinvare om til AI-kompatible systemer.
