{"id":219790,"date":"2023-10-05T07:01:01","date_gmt":"2023-10-05T05:01:01","guid":{"rendered":"https:\/\/www.ifun.de\/?p=219790"},"modified":"2023-10-05T07:01:01","modified_gmt":"2023-10-05T05:01:01","slug":"ollama-mac-app-fuehrt-ki-chatbot-von-meta-lokal-aus","status":"publish","type":"post","link":"https:\/\/www.ifun.de\/ollama-mac-app-fuehrt-ki-chatbot-von-meta-lokal-aus-219790\/","title":{"rendered":"Ollama: Mac-App f\u00fchrt KI-Chatbot von Meta lokal aus"},"content":{"rendered":"

Hinter dem Erfolg von k\u00fcnstlich intelligenten Textgeneratoren wie ChatGPT stehen sogenannte Large Language Models<\/a> (LLMs). Dies sind statistische Abbildungen unglaublich gro\u00dfer Textk\u00f6rper, die die Chatbots in die Lage versetzen, menschen\u00e4hnliche S\u00e4tze zu formulieren, auf Fragen zu antworten und nahezu freih\u00e4ndig Texte zu verfassen.<\/p>\n

\"Ollama<\/a><\/p>\n

Inzwischen gibt es nicht mehr nur eine kleine Handvoll LLMs, sondern zahlreiche konkurrierende Projekte<\/a>, die sich in Umfang, Lizenzmodell und der Gr\u00f6\u00dfe des zugrunde liegenden Textkorpus unterscheiden. Mit am bekanntesten sind die Modelle GPT-3 und GPT-4, die von der hinter ChatGPT stehenden Firma OpenAI entwickelt wurden.<\/p>\n

Seit dem Fr\u00fchjahr bietet auch der Facebook-Mutterkonzern Meta ein eigenes LLM an, das zur nicht-kommerziellen Nutzung kostenlos aus dem Netz geladen und eingesetzt werden kann. Das Metamodell nennt sich LLaMA (Large Language Model Meta AI), bringt es auf 70 Milliarden Parameter und ist wie GPT-3 in der Lage, Konversationen auf zahlreichen Rechnern in unterschiedlichen Sprachen zu f\u00fchren.<\/p>\n

Im Vergleich zu ChatGPT hat LLaMA f\u00fcr den privaten Einsatz den Vorteil, dass es nicht nur kostenlos genutzt, sondern auch lokal auf den eigenen Mac heruntergeladen werden kann und anschlie\u00dfend ohne eine Internetverbindung funktioniert.<\/p>\n

\"Ollama<\/a><\/p>\n

Ollama vereinfacht lokale Nutzung<\/h2>\n

Die Mac-Anwendung Ollama<\/a> vereinfacht die Installation und Anwendung des von Meta bereitgestellten Modells und l\u00e4sst sich hieraus dem Netz laden. Einmal installiert, muss anschlie\u00dfend nur noch das in der Ollama-Anzeige gezeigte Kommando in das Mac Terminal kopiert werden. Anschlie\u00dfend k\u00f6nnen hier beliebig lange Gespr\u00e4che mit dem gew\u00e4hlten LLaMA-Modell gef\u00fchrt werden. Dieses wird in der App in verschiedenen Variationen angeboten.<\/p>\n

\"Ollama<\/a><\/p>\n

Ollama<\/a> ist schnell installiert und einfach zu nutzen; die Ergebnisse fallen allerdings durchwachsen aus und sind stark von den Eingaben des Nutzers abh\u00e4ngig. Beim ersten Start des Metamodells wird dieses aus dem Netz geladen und beansprucht etwa 4 GB Speicherplatz auf der Festplatte. Das Modell wird in eurem Benutzerordner im Verzeichnis ~\/.ollama gesichert.<\/p>\n

<\/p>\n","protected":false},"excerpt":{"rendered":"\"Mac<\/a>

Hinter dem Erfolg von k\u00fcnstlich intelligenten Textgeneratoren wie ChatGPT stehen sogenannte Large Language Models (LLMs). Dies sind statistische Abbildungen unglaublich gro\u00dfer Textk\u00f6rper, die die Chatbots in die Lage versetzen, menschen\u00e4hnliche S\u00e4tze zu formulieren, auf Fragen zu antworten und nahezu freih\u00e4ndig Texte zu verfassen. Inzwischen gibt es nicht mehr nur eine kleine Handvoll LLMs, sondern zahlreiche […]<\/p>\n","protected":false},"author":1,"featured_media":219794,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[5],"tags":[4737,6006,6065,5590],"class_list":["post-219790","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-apps","tag-apps","tag-chatgpt","tag-kuenstliche-intelligenz","tag-meta"],"acf":[],"aioseo_notices":[],"featured_image":["https:\/\/images.ifun.de\/wp-content\/uploads\/2023\/10\/mac-ollama.jpg"],"subheadline":["Kostenfreie ChatGPT-Alternative"],"rest_api_enabler":{"featured_image":"https:\/\/images.ifun.de\/wp-content\/uploads\/2023\/10\/mac-ollama.jpg","subheadline":"Kostenfreie ChatGPT-Alternative"},"_links":{"self":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/219790","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/comments?post=219790"}],"version-history":[{"count":1,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/219790\/revisions"}],"predecessor-version":[{"id":219795,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/posts\/219790\/revisions\/219795"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media\/219794"}],"wp:attachment":[{"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/media?parent=219790"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/categories?post=219790"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ifun.de\/apiv2\/wp\/v2\/tags?post=219790"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}