Apple und Meta machen gemeinsame Sache: KI läuft lokal auf Macs

Apple und Meta streiten häufig über Datenschutz und App-Store-Regeln. Umso überraschender ist ihre Zusammenarbeit: Apple hat Meta geholfen, das KI-Modell „Muse Spark Open“ für den Mac Studio zu optimieren. Die KI läuft auf zwei verbundenen Macs vollständig lokal. Ein Cloud-Server ist für die Berechnungen nicht nötig.

Warum die KI zwei Mac Studios benötigt

Muse Spark Open hat 816 Milliarden Parameter, also erlernte Zahlenwerte, mit denen die KI arbeitet. Pro Anfrage nutzt sie davon nur rund 42 Milliarden gleichzeitig. Das Modell kann programmieren, komplexe Aufgaben lösen und Bilder auswerten. Meta verwendet dafür zwei Mac Studios mit M5-Ultra-Chip und jeweils 512 GB Arbeitsspeicher. Die 512 GB sind keine SSD-Kapazität, sondern gemeinsam von Prozessor und Grafikchip nutzbarer Arbeitsspeicher. Der große Speicher ist vor allem deshalb wichtig, weil die KI ihre umfangreichen Modelldaten möglichst schnell abrufen können muss. So müssen die Daten nicht in einen einzigen Mac passen. Über Thunderbolt 5 und Apples MLX-Framework teilen die beiden Rechner die Rechenarbeit auf. Dabei übernimmt jeder Mac einen Teil der Berechnungen, während die Software den Datenaustausch zwischen den Geräten koordiniert.

Was das ermöglicht, demonstrierte Meta an einer iOS-App. Die KI behob Fehler, programmierte Funktionen und kompilierte die App. Außerdem analysierte sie Videomaterial und erstellte mit DaVinci Resolve daraus Clips im Hochformat.

Lokale KI statt Cloud

Apple beschreibt in einem technischen Bericht, wie mehrere Macs gemeinsam KI-Modelle ausführen. Vier Mac Studios sollen dabei mehr als 36 Tokens, also kurze Textbausteine, pro Sekunde erzeugen. Für Privatnutzer ist solche Hardware allerdings kaum erschwinglich.

Interessant ist vor allem der Ansatz: Auch große KI-Modelle müssen nicht zwingend auf fremden Servern laufen. Das kann insbesondere beim Umgang mit vertraulichen Dokumenten oder sensiblen Unternehmensdaten von Vorteil sein, da die Verarbeitung auf der eigenen Hardware erfolgt. Meta stellt die Modellgewichte zum Download bereit, schränkt die kommerzielle Nutzung aber ein. Die Zusammenarbeit zeigt, dass Apple seine Macs zunehmend für lokale KI-Anwendungen positioniert.