Teil von macOS 27: Apples KI-Modell im Terminal nutzen

Mit macOS 27 können Mac-Nutzer Apples eigenes KI-Modell direkt über das Terminal ansprechen. Dafür sind weder ein Benutzerkonto bei einem KI-Anbieter noch ein kostenpflichtiger API-Zugang erforderlich. Das Modell arbeitet vollständig auf dem eigenen Rechner und benötigt für die Verarbeitung keine Internetverbindung. Voraussetzung ist ein Mac mit Apple-Prozessor, wobei auch Geräte mit M1-Chip unterstützt werden.

Apples Foundation Modell im Terminal

Apple stellt dafür den Terminal-Befehl „fm“ bereit. Dieser ermöglicht den direkten Zugriff auf das lokale Sprachmodell AFM 3, das auch von Apple Intelligence verwendet wird. Wer das Modell bereits auf seinem Mac installiert hat, kann damit einfache KI-Aufgaben unabhängig von externen Servern erledigen.

Drei Befehle für den Einstieg

Die erstmalige Einrichtung erfolgt über das Terminal. Mit „sudo fm license“ werden die Nutzungsbedingungen bestätigt. Dabei fragt macOS nach dem Administratorpasswort. Anschließend lässt sich mit „fm available“ kontrollieren, ob das benötigte Modell bereits heruntergeladen wurde. Für eine erste Anfrage genügt beispielsweise:

fm respond "Fasse die Vorteile lokaler KI zusammen".

Wer lieber einen fortlaufenden Dialog führt, startet mit `fm chat` eine interaktive Unterhaltung. Voraussetzung ist, dass Apple Intelligence auf dem betreffenden Mac aktiviert ist.

KI im Terminal: Apple fasst die Vorteile zusammen

Auch vorhandene Textdateien können verarbeitet werden. Der folgende Befehl übergibt beispielsweise den Inhalt einer Datei an das Sprachmodell:

cat notes.txt | fm respond -i "Fasse diesen Text zusammen"

Die Antworten lassen sich bei Bedarf auch in einem vorgegebenen JSON-Format ausgeben. Dazu muss mit „fm schema object“ zunächst nur eine passende Struktur definiert werden.

Lokale Schnittstelle mit begrenztem Kontext

Mit „fm serve“ lässt sich das Modell zudem als lokaler Dienst starten. Dieser stellt eine zu OpenAI kompatible Schnittstelle bereit, über die andere Programme auf die KI zugreifen können. Unterhaltungen können gespeichert und später fortgesetzt werden. Die Sitzungsdaten liegen im Verzeichnis `~/.fm/sessions/`.

„fm serve“ startet den Server-Modus

Allerdings fällt das verfügbare Kontextfenster mit 4.096 Tokens vergleichsweise klein aus. Eingaben, zusätzliche Anweisungen und Antworten müssen sich diesen Platz teilen. Für umfangreiche Programmieraufgaben oder komplexe mathematische Probleme eignet sich das Modell deshalb weniger. Sinnvoller sind überschaubare Aufgaben wie das Zusammenfassen, Umschreiben, Klassifizieren oder gezielte Auslesen von Texten.

Bereits mit macOS 26 hatte Apple seine lokalen Foundation Models für Entwickler geöffnet. Die Terminal-Nutzung macht diese Technik nun auch ohne eigene App-Entwicklung zugänglich. Als Alternative steht auf macOS 26 und neuer das Werkzeug Apfel zur Verfügung, das sich über Homebrew mit „brew install apfel“ installieren und anschließend mit „apfel –chat“ starten lässt.