
Run an 816B AI model on just two Mac Studios. The future of local compute is here.
Julian Goldie Agency4 November 2026Watch on YouTube
Part of series
Ep. 5 · Meta's 816B model lokaal draaien
Meta's open-weight model Muse Spark Open met 816 miljard parameters draait verrassend lokaal op twee Mac Studios.
View the seriesWhat you'll learn
- A 816B parameter model from Meta, Muse Spark, can run locally on two Mac Studios with M5 Ultra chips.
- The unified memory architecture of the M5 Ultra makes it possible to run a model of this size on a desktop setup.
- The setup works as a personal supercomputer for complex tasks, without the need for large server farms.
- Several engines such as VLM and SGLang are supported for local inference.
- The video highlights a shift from cloud dependency to local ownership for developers.
Frequently asked questions
Which model and hardware are used in the video?
Why does the unified memory architecture of the M5 Ultra matter here?
Which engines for local inference are mentioned?
Which shift for developers does the video highlight?
Topics
Read next
Meta lanceert open-weight AI-model dat lokaal op Macs draait
Meta brengt Muse Spark Open uit, een open-weight model dat volgens het bedrijf lokaal op Apple silicon draait.
Apple introduceert M6 en M5 Ultra chips met meer rekenkracht voor lokale AI
Apple heeft op 25 augustus 2026 de M6 en M5 Ultra chips aangekondigd voor respectievelijk de nieuwe Mac mini en Mac Studio. De chips richten zich op lokale AI-verwerking en markeren Apples overgang naar het 2-nanometerproces.
Meta en Apple werken samen om Muse-modellen beter op Macs te laten draaien
Meta zegt dat Muse Spark Open het eerste model in zijn klasse is dat via het MLX-framework op twee Mac Studios met Apple M5 Ultra kan draaien.
Meta brengt open model uit met strategie tegen Chinese concurrentie
Meta released Muse Glimmer, een 30B agent-model dat op consumentenhardware draait, gepresenteerd als onderdeel van een strategie rond open modellen en compute-verdeling.
Apple zou werken aan enterprise-AI-server met eigen M8 Ultra-chips
Volgens The Information werkt Apple aan een server met twee of vier M8 Ultra-chips voor de AI-inferentiemarkt, met een mogelijke lancering niet voor 2029.
Vijf AI-ontwikkelingen rond geheugen, efficiëntie en redeneren
Workday, de Universiteit van Edinburgh, Meta AI, Kimi en Alphabet publiceerden rond augustus 2026 elk een eigen aanpak om AI-systemen zuiniger, sneller of slimmer te maken. De ontwikkelingen raken zowel hardware als modelarchitectuur en geheugenbeheer.
Description from the channel
Want to make money and save time with AI? Join here: https://www.skool.com/ai-profit-lab-7462/about Meta's new Muse Spark Open model is changing the game for local AI. By leveraging the unified memory architecture of the M5 Ultra chip, it is now possible to run an massive 816B parameter model on a desktop setup rather than needing massive server farms. This configuration creates a personal supercomputer capable of handling complex tasks at incredible speeds, supporting various engines like VLM and SGLang. This shifts the paradigm from cloud-dependency to local ownership, offering a powerful alternative for developers looking to run high-end models without renting cloud infrastructure. #AI #AppleMacStudio #MetaAI #TechNews #LocalLLM