Vom Desktop-Werkzeug zur eigenen KI-Cloud
LM Studio mit iPhone-App: Lokale KI-Modelle jetzt auch unterwegs nutzen
Das LM Studio kennt ihr. Jetzt erweitern die Macher ihre lokale KI-Plattform um eine mobile Komponente. Die bislang vor allem auf Mac und Windows-PC genutzte Anwendung erhält mit „Locally“ eine offizielle iPhone- und iPad-App.
Gleichzeitig startet die neue Funktion „LM Link“, die den Zugriff auf lokal betriebene Sprachmodelle von unterwegs aus ermöglichen soll.
Erst Anfang des Jahres hatten die Entwickler mit Version 0.4.0 die technische Grundlage für den Einsatz von LM Studio als Serveranwendung geschaffen. Damals wurde die Software durch einen neuen Daemon-Modus von ihrer grafischen Oberfläche getrennt und konnte erstmals als eigenständiger Hintergrunddienst betrieben werden. Die jetzt vorgestellte Mobilanbindung baut direkt auf dieser Entwicklung auf.
Statt große Sprachmodelle auf dem iPhone selbst auszuführen (wie es unter anderem mit Locally ja problemlos möglich ist), können Nutzer die Rechenarbeit auf leistungsstärkere Rechner zu Hause, im Büro oder in der Cloud auslagern. Das Mobilgerät dient dabei lediglich als Zugangspunkt.
Verschlüsselte Verbindung zu eigenen Rechnern
Herzstück der neuen Funktion ist LM Link. Das System verbindet mehrere Geräte miteinander und macht darauf laufende KI-Modelle standortunabhängig verfügbar. Die Kommunikation erfolgt laut Anbieter vollständig verschlüsselt und basiert auf der VPN-Technologie des Netzwerkspezialisten Tailscale.
Nach der Einrichtung lassen sich entfernte Modelle innerhalb von LM Studio so auswählen, als würden sie lokal auf dem aktuellen Gerät laufen. Chats verbleiben dabei auf den jeweiligen Endgeräten. Nach Angaben der Entwickler werden lediglich Geräteinformationen für die Verbindungsherstellung über die eigenen Server verarbeitet.
Locally wird zur offiziellen Mobil-App
Die neue iPhone-Anwendung basiert auf der bereits zuvor verfügbaren App Locally, die LM Studio Anfang des Jahres übernommen hatte. Die App wird nun offiziell der mobile Kompagnon von LM Studio.
Neben der neuen Fernzugriffsfunktion kann Locally weiterhin KI-Modelle direkt auf dem iPhone oder iPad ausführen. Dafür kommt Apples MLX-Framework zum Einsatz, das speziell für Apple-Chips entwickelt wurde. Unterstützt werden unter anderem Modelle aus den Familien Llama, Gemma, Qwen und DeepSeek.
Nach Angaben der Entwickler arbeitet die App vollständig offline, verzichtet auf Nutzerkonten und sammelt keine Telemetriedaten. Der Zugriff auf entfernte Rechner über LM Link befindet sich derzeit noch in einer Vorschauphase. Langfristig planen die Entwickler neben kostenlosen auch kostenpflichtige Tarife anzubieten. LM Studio für macOS lässt sich hier aus dem Netz laden.
Wird getestet und hoffentlich auch möglich, wenn man schon ein eigenes VPN betreibt.
Dankeschön!
Hatte dies bisher mit Ollama gemacht.
Mit welcher App ?
Als nicht KI-Kenner: Worum geht es da überhaupt?
Um was es geht steht im Bericht. Kannst du deine Frage ein wenig präzisieren?
Es geht im Artikel eher um die Möglichkeit von einem Handy aus, auf die KI zuzugreifen die auf deinem Mac läuft mit ML Studio. Der Mac dürfte mehr Performance haben als dein iPhone …
Äh, LM-Studio und nicht ML…
Es geht hier darum, dass man auf seinem mobilen Gerät damit eine „AI“ installiert hat, die antworten kann, ohne dafür in die Cloud zu gehen.