Auf Basis von Apple Intelligence
Raven: Lokaler KI-Chat mit Dokumenten für macOS und iOS
Mit Raven steht eine neue, quelloffene KI-Anwendung für iOS und macOS zur Verfügung, die Dateien direkt auf dem jeweiligen Gerät auswertet. Die App ist darauf ausgelegt, Texte aus Bildern zu erkennen, PDF-Dokumente zu analysieren sowie Audio- und Videodateien zu transkribieren. Grundlage dafür sind die auf dem System integrierten Foundation Models von Apple.
Eine Verbindung zu externen Servern ist nicht vorgesehen, sämtliche Berechnungen erfolgen lokal auf iPhone, iPad oder Mac.
Der Ansatz richtet sich an Nutzer, die Inhalte aus unterschiedlichen Dateiformaten zusammenführen möchten, ohne diese an Cloud-Dienste zu übertragen. Raven ermöglicht es, Fragen zu Dateien zu stellen, Inhalte zusammenzufassen und Zusammenhänge innerhalb eines Projekts auszuwerten. Die Bedienung bleibt dabei auf einzelne Projekte beschränkt, in denen Dokumente, Medien und zugehörige Chats organisiert werden.
Funktionen für Analyse und Organisation
Zu den zentralen Funktionen zählen die Texterkennung in Bildern, die Analyse von PDF-Dateien sowie die Transkription von Audiodateien. Auch Text aus Videoinhalten kann extrahiert werden. Die gewonnenen Inhalte lassen sich innerhalb der App weiterverarbeiten, etwa durch Zusammenfassungen oder durch themenbezogene Rückfragen an das System. Notizen werden automatisch gespeichert und einzelnen Projekten zugeordnet.
Raven bietet zudem eine einfache Projektverwaltung, mit der sich Dateien strukturieren und mehrere Arbeitskontexte parallel verwalten lassen. Der Wechsel zwischen einzelnen Chats und Projekten ist ohne erneute Datei-Übergaben möglich, da alle Daten lokal gespeichert bleiben.
Datenschutz und offene Entwicklung
Ein zentrales Merkmal von Raven ist der Fokus auf Datenschutz. Da keine Cloud-Infrastruktur genutzt wird, verbleiben sämtliche Dokumente und Auswertungen auf dem Gerät des Nutzers. Für die KI-Funktionen ist keine Internetverbindung erforderlich. Damit unterscheidet sich die im Mac App Store erhältliche App von vielen anderen KI-Assistenten, die auf externe Rechenzentren angewiesen sind.
Technisch nutzt Raven systemnahe Frameworks wie Vision, PDFKit, Speech und AVFoundation. Voraussetzung für den Einsatz sind iOS 26 oder neuer beziehungsweise macOS 26 Tahoe sowie die Unterstützung der Apple-eigenen Foundation Models. Der vollständige Quellcode ist öffentlich auf GitHub einsehbar. Entwickelt wird die Anwendung von Eldar Tutnjic.
Habe mehrere Dokumente und Fotos getestet, auf dem iPhone 16 Pro, mit iOS 26.2 habe ich keine Ergebnisse erzielen können. App gelöscht. Da funktioniert „Locally AI“ besser.
Leider iPhone 14 nicht möglich
So langsam sollte auch der letzte hier wissen ab welchem Model AI unterstützt.
Technisch gesehen jedes iPhone inclusive dem ersten von 2007. die frage ich nur wie groß das Modell ist und wie schnell es laufen muss. Vor allem ohne Hardware Beschleunigen. Aber technisch spricht nichts dagegen. Daher ist der Beitrag von Tobijoerk schon richtig.
Im Text steht: „Grundlage dafür sind die auf dem System integrierten Foundation Models von Apple.“ Damit ist klar, welche iOS Geräte mangels zu wenig Speicher nicht gehen, weil Apple die Mindestvoraussetzung für ihre KI eben so gefasst hat. Es geht nicht darum, dass man mit anderen Apps auch lokale LLM mit geringen Speicheranforderungen dennoch zum Laufen bringt.
Leider lädt mein Benziner nicht an der Tesla Ladesäule
Hab mit meiner Dampfmaschine das gleiche Problem!
Locally AI läuft auch auf einem iPhone 14
LM Studio ist m.E. immer die beste Wahl für lokale LLM. So kann man das verwendete Sprachmodell an die jeweiligen Bedürfnisse anpassen.
Und wie läuft LM Studio so auf dem iPhone ??
Gerade getestet mit einem Dokument und eine Fehlermeldung zwecks der Modellgröße bekommen.
Liest sich nett. Locally AI gibt es auch noch. https://locallyai.app/
Wie würdet ihr die beiden Apps im Vergleich sehen?
Verstehe den KI Hype bei Handys nicht…. alle werden nur fauler und dümmer…, ist zumindest mein Eindruck.
Wurde bei der Erfindung des Autos damals wohl auch gesagt.
Ja guter Vergleich, dem möchte ich noch zufügen:
– Spülmaschine
– Waschmaschine
– Trockner
– E-Bikes
– E-Scooter
– Aufzüge
und ist genau so eingetreten, jeder Scheixxx wird gefahren und Menschen werden immer fetter
Alle, immer … klar.
Larrimah, früher ist man auch auf das Rad gestiegen, ist nach ein paar km bei einem Freund angekommen und hat dann erst gewusst, ob er/sie zuhause ist und Zeit hat. Wie oft hast du das in letzter Zeit gemacht oder benutzt du da auch die bequemere Möglichkeit des Smartphones?
Früher wurde auch noch mit Lagerfeuer gekocht. Die Welt entwickelt sich halt weiter.
Prompt beim ersten Testen werden Excel Datein nicht unterstützt.
Bei mir sagt er nur „Wrong Language“
Ich bin positiv überrascht. Bildschirmfoto auf dem iPhone geladen => Deutscher Inhalt und deutscher Prompt. Text wurde gut zusammengefasst.
Erster Versuch: super!
Zweiter Versuch mit anderem PDF: er analysiert immernoch das erste. ???
Hat Raven Vorteile gegenüber Osaurus? Letztes läuft bei mir sehr flott als Ollama-Alternative, bekommt täglich Updates.
Die App ist interessant, aber noch sehr unfertig. Große Dokumente führen zu Fehlermeldungen, kleine Dokumente können genau einmal „befragt“ werden, die Antworten sind auch okay, aber schon eine zweite Frage lässt nicht nur die erste Antwort „verschwinden“, sondern führt erneut zu einer Fehlermeldung. Da scheint es bessere lokale KI-Lösungen zu geben, und gegen ChatGPT kommt die App sowieso nicht an (mit identischen Fragen getestet), es sei denn man muss zwingend datenschutzrechtliche Aspekte berücksichtigen. Mein Verdacht: Die App Raven ist vielversprechend, aber immer nur so „gut“ wie Apple Intelligence.
Hat bei mir gleich NICHT funktioniert….super ..:-)