Für Code, Dokumenten und Tabellen
Lokale Alternative zu Claude und Codex: LM Studio startet Bionic
LM Studio erweitert sein Angebot um einen neuen KI-Agenten für Mac. Bionic soll nicht nur Fragen beantworten, sondern selbstständig recherchieren, programmieren und mit Dokumenten, Tabellen sowie Präsentationen arbeiten. Dabei können offene KI-Modelle direkt auf dem eigenen Rechner laufen.
Die zunächst als Vorschau angebotene Anwendung ist von der klassischen LM-Studio-App getrennt. Nutzer wählen ein lokales Modell aus, geben bestimmte Dateien oder Projektordner frei und erteilen anschließend einen Auftrag. Weitere Details nennt LM Studio in der offiziellen Ankündigung.
Lokale KI arbeitet mit Dateien
Bionic kann Programmcode durchsuchen, unbekannte Abschnitte erklären, Fehler suchen und Änderungen vorschlagen. In einem weiteren Arbeitsbereich lassen sich PDFs, Textdokumente, Tabellen und Präsentationen zusammenfassen, überarbeiten oder neu erstellen. Eine Websuche kann bei Bedarf aktuelle Informationen ergänzen.
Der Agent erhält nur Zugriff auf die für ein Projekt ausgewählten Dateien. Automatische Zwischenstände sollen Änderungen nachvollziehbar machen und eine Rückkehr zu früheren Versionen ermöglichen.
Lokal oder über die Cloud
Bei lokalen Modellen bleiben Eingaben und Dokumente auf dem eigenen Mac. Über LM Link kann Bionic zudem auf ein Modell zugreifen, das auf einem leistungsfähigeren Rechner im eigenen Netzwerk läuft. Ein MacBook könnte so beispielsweise die Rechenleistung eines Mac Studio nutzen.
Für umfangreichere Aufgaben bietet LM Studio optional größere Cloud-Modelle an. Der Anbieter verspricht für diese Anfragen eine Speicherfrist von null Tagen: Die übermittelten Daten sollen nach der Verarbeitung nicht gespeichert und nicht zum Training verwendet werden. Die Cloud-Nutzung wird nach Verbrauch berechnet, lokale Modelle bleiben kostenlos.
Auch als lokale Spracheingabe
Zusätzlich bringt Bionic eine systemweite Diktierfunktion mit. Gesprochener Text lässt sich direkt an der aktuellen Cursorposition in andere Mac-Apps einsetzen. Die Transkription erfolgt laut LM Studio lokal.
Bionic steht auf der Webseite des Anbieters für Mac und Windows bereit. Für lokale KI empfiehlt sich ein Mac mit Apple-Prozessor und möglichst 16 Gigabyte Arbeitsspeicher oder mehr. Wir hatten LM Studio bereits als Werkzeug für lokale KI-Modelle vorgestellt. Mit Bionic sollen diese nun selbstständig an Dateien und Projekten mitarbeiten.
Man sollte allerdings bedenken, dass kleine KI-Modelle schon deutlich schwächer sind als die Frontier-Modelle und nicht die „Intelligenz“ liefern, an die man sich durch Benutzung von ChatGPT/Claude/Gemini gewöhnt hat. In meinen Tests war zB Qwen3.6-35B auf meinem 64GB M5 Pro Macbook zwar recht schnell, aber im Coding quasi unbrauchbar (Ungefähr Haiku-Level)
Die Anzahl der User, die ein 35B Modell überhaupt lokal laufen lassen können, dürfte sehr klein sein. Nicht dass ich solche Nachrichten kleinreden will. Aber es entsteht leicht der Eindruck, dass dies ein Anwendungsfall für die meisten wäre.
Ich sehe es eher so, dass wenn Tom’s starker Rechner es schon nicht besonders gut kann, schwächere eher verbreitete Rechner es noch schlechter hinbekommen.
Danke für den Bericht Tom!
Ach so, Castle, Dein Post war nicht als Antwort auf Tom gedacht. Da gebe ich Dir recht – der Artikel macht den Anschein, ein lokales Model wäre eine nützliche Alternative.
Danke für deine Erfahrung, Tom.
Welches lokale KI-Modell könnt ihr denn hier im Forum empfehlen, das auch für Programmierung und Co-Work geeignet wäre? Oder grenzt das schon extrem an Wunschdenken?
Hört sich toll an, steht und fällt aber mit der Potenz des Rechners. Wer keinen neuen Mac Studio mit 64, besser 128 GB oder mehr hat, sollte sich nicht der Illusion hingeben, auch nur annähernd an die Leistung von Cloud-KI heranzukommen.
Und sobald man die KI auf die eigenen Daten loslässt, sollte man das besser nicht auf dem Hauptrechner tun, wo auch noch eine Menge Zeug liegt, was auf keinen Fall „abhanden“ oder in fremde Hände kommen darf. Denn auch wenn man festlegen können soll, auf welche Dateien/Order die KI Zugriff haben darf, gibt es leider dennoch häufig Lücken die übersehen wurden (ggfs. Vergessene Links/Alias-Dateien), über die dann doch Zugriff auf andere Bereiche möglich ist. Speziell da vermutlich die meisten KI Tools mit KI (Vibe-coding) entstanden sind, und niemand mehr alles auf solche Lücken kontrolliert (denn dann wäre der Zeit/Personalvorteil der KI ja wieder dahin).
Und wenn man einen zweit-Mac hat sollte der auch potent genug sein für lokale KI. Ein zweit-Rechner vom Kaliber Mac Studio mit 64 GB RAM wäre ideal, aber wer hat sowas schon….
Selbst mit 128GB RAM kommt man mit den frei verfügbaren LLM’s nicht ansatzweise an die aktuellen online LLM’s wie ChatGPT, Claude, Grok, Perplexity, etc. Weder was die Qualität betrifft noch die Geschwindigkeit.