Vom Desktop-Werkzeug zur eigenen KI-Cloud
LM Studio mit iPhone-App: Lokale KI-Modelle jetzt auch unterwegs nutzen
Das LM Studio kennt ihr. Jetzt erweitern die Macher ihre lokale KI-Plattform um eine mobile Komponente. Die bislang vor allem auf Mac und Windows-PC genutzte Anwendung erhält mit „Locally“ eine offizielle iPhone- und iPad-App.
Gleichzeitig startet die neue Funktion „LM Link“, die den Zugriff auf lokal betriebene Sprachmodelle von unterwegs aus ermöglichen soll.
Erst Anfang des Jahres hatten die Entwickler mit Version 0.4.0 die technische Grundlage für den Einsatz von LM Studio als Serveranwendung geschaffen. Damals wurde die Software durch einen neuen Daemon-Modus von ihrer grafischen Oberfläche getrennt und konnte erstmals als eigenständiger Hintergrunddienst betrieben werden. Die jetzt vorgestellte Mobilanbindung baut direkt auf dieser Entwicklung auf.
Statt große Sprachmodelle auf dem iPhone selbst auszuführen (wie es unter anderem mit Locally ja problemlos möglich ist), können Nutzer die Rechenarbeit auf leistungsstärkere Rechner zu Hause, im Büro oder in der Cloud auslagern. Das Mobilgerät dient dabei lediglich als Zugangspunkt.
Verschlüsselte Verbindung zu eigenen Rechnern
Herzstück der neuen Funktion ist LM Link. Das System verbindet mehrere Geräte miteinander und macht darauf laufende KI-Modelle standortunabhängig verfügbar. Die Kommunikation erfolgt laut Anbieter vollständig verschlüsselt und basiert auf der VPN-Technologie des Netzwerkspezialisten Tailscale.
Nach der Einrichtung lassen sich entfernte Modelle innerhalb von LM Studio so auswählen, als würden sie lokal auf dem aktuellen Gerät laufen. Chats verbleiben dabei auf den jeweiligen Endgeräten. Nach Angaben der Entwickler werden lediglich Geräteinformationen für die Verbindungsherstellung über die eigenen Server verarbeitet.
Locally wird zur offiziellen Mobil-App
Die neue iPhone-Anwendung basiert auf der bereits zuvor verfügbaren App Locally, die LM Studio Anfang des Jahres übernommen hatte. Die App wird nun offiziell der mobile Kompagnon von LM Studio.
Neben der neuen Fernzugriffsfunktion kann Locally weiterhin KI-Modelle direkt auf dem iPhone oder iPad ausführen. Dafür kommt Apples MLX-Framework zum Einsatz, das speziell für Apple-Chips entwickelt wurde. Unterstützt werden unter anderem Modelle aus den Familien Llama, Gemma, Qwen und DeepSeek.
Nach Angaben der Entwickler arbeitet die App vollständig offline, verzichtet auf Nutzerkonten und sammelt keine Telemetriedaten. Der Zugriff auf entfernte Rechner über LM Link befindet sich derzeit noch in einer Vorschauphase. Langfristig planen die Entwickler neben kostenlosen auch kostenpflichtige Tarife anzubieten. LM Studio für macOS lässt sich hier aus dem Netz laden.
Wird getestet und hoffentlich auch möglich, wenn man schon ein eigenes VPN betreibt.
Dankeschön!
Hatte dies bisher mit Ollama gemacht.