{"id":271693,"date":"2025-12-23T09:01:54","date_gmt":"2025-12-23T08:01:54","guid":{"rendered":"https:\/\/www.ifun.de\/?p=271693"},"modified":"2025-12-23T09:01:54","modified_gmt":"2025-12-23T08:01:54","slug":"fuer-lokale-ki-macos-26-2-beschleunigt-mac-cluster-signifikant","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/fuer-lokale-ki-macos-26-2-beschleunigt-mac-cluster-signifikant-271693\/","title":{"rendered":"F\u00fcr lokale KI: macOS 26.2 beschleunigt Mac-Cluster signifikant"},"content":{"rendered":"

Gleich eine ganze Handvoll neu ver\u00f6ffentlichter YouTube-Videos besch\u00e4ftigen sich aktuell mit einem „Problem“, das bei lokalen KI-Modellen auf mehreren Macs lange als Bremse galt: Wer mehrere Ger\u00e4te zu einem Cluster verbindet, gewinnt zwar gemeinsamen Arbeitsspeicher, verliert aber h\u00e4ufig Tempo, weil die Rechner bei der Berechnung st\u00e4ndig Daten austauschen m\u00fcssen.<\/p>\n

\"Mac<\/a><\/p>\n

Beide Beitr\u00e4ge beschreiben nun einen technischen Schritt, der diese H\u00fcrde deutlich verkleinern soll.<\/p>\n

Im Mittelpunkt stehen mehrere Modelle des Mac Studio die \u00fcber Thunderbolt-Verbindungen miteinander vernetzt werden. Als Bausteine nennen beide Videos das neue EXO 1.0 als Cluster-Manager<\/a> und eine neue Funktion in macOS 26.2, die RDMA \u00fcber Thunderbolt<\/a> erm\u00f6glicht. Dies macht es m\u00f6glich, gro\u00dfe KI-Sprachmodelle lokal auszuf\u00fchren, ohne Anfragen an externe Cloud-Dienste zu schicken.<\/p>\n

RDMA \u00fcber Thunderbolt<\/h2>\n

Der Beitrag von Jake Tivy<\/a> zeigt eine Konfiguration aus vier Mac Studios, die zusammen rund 1,5 Terabyte Unified Memory bereitstellen. Getestet wird unter anderem, wie schnell sich ein gro\u00dfes Modell verteilt berechnen l\u00e4sst. Mit klassischem 10 Gigabit Ethernet bleibt die Ausgabe trotz zus\u00e4tzlicher Rechner zun\u00e4chst nahezu unver\u00e4ndert, weil die Latenz bei der \u00dcbergabe der Zwischenergebnisse dominiert.<\/p>\n