Private LLM: iPhone-App führt neue DeepSeek-KI lokal aus
Mit der App Private LLM haben Nutzer von iPhone, iPad und Mac schon länger Zugriff auf eine lokale KI-Applikation, die ohne Internetverbindung funktioniert, die Privatsphäre schützt und auch bei einfachen Aufgaben zwar nicht an die Performance von ChatGPT heranreichen kann, aber durchaus in der Lage ist Texte zu generieren, Fehler zu finden und menschenähnliche Antworten […]
Mit der App Private LLM haben Nutzer von iPhone, iPad und Mac schon länger Zugriff auf eine lokale KI-Applikation, die ohne Internetverbindung funktioniert, die Privatsphäre schützt und auch bei einfachen Aufgaben zwar nicht an die Performance von ChatGPT heranreichen kann, aber durchaus in der Lage ist Texte zu generieren, Fehler zu finden und menschenähnliche Antworten zu formulieren.
Anwender laden dafür ein oder mehrere ausgewählte KI-Modelle auf ihr Gerät und nutzen diese anschließend ohne Einschränkungen. Alle Konversationen mit diesem verbleiben ausschließlich auf den Endgeräten. Die App wird durch einen einmaligen Kauf freigeschaltet und kann auf allen Apple-Geräten genutzt werden, inklusive der Familienfreigabe für bis zu sechs Personen.
Private LLM bietet eine breite Auswahl an Open-Source-Modellen wie Llama 3.3 und Qwen 2.5, die individuell angepasst und offline genutzt werden können.
DeepSeek lokal und offline nutzen
Das aktuelle Update auf Version 1.9.5 der App bringt erstmals die neuen DeepSeek-Modelle mit. Das chinesische DeepSeek-V3-Modell sorgt seit einigen Wochen für Aufmerksamkeit: Als kostenfreie App hat es in den USA bereits die Spitzenposition im App Store übernommen.
DeepSeek wird von einem chinesischen Startup entwickelt, das nach eigenen Angaben auf vergleichsweise günstige Nvidia-Chips setzt, um ein Modell zu betreiben, das mit den führenden KI-Lösungen aus den USA konkurrieren kann. Trotz dieser Einschränkungen hat DeepSeek internationale Anerkennung für die Leistungsfähigkeit seines Modells erlangt.
Unterstützung für Kurzbefehle
Private LLM ermöglicht KI-gestützte Textbearbeitung, Übersetzung und Grammatikprüfung direkt aus Anwendungen wie Texteditoren oder E-Mail-Programmen. Durch die Integration in Siri und Apple Kurzbefehle lassen sich Aufgaben automatisieren, während die Unterstützung von x-callback-url eine Verbindung mit zahlreichen weiteren Apps erlaubt.
Private LLM setzt auf eine sogenannte Quantisierung, die für eine effiziente Modellausführung auf Apples Geräten sorgen soll. Diese Technik soll die Textgenerierung verbessern und dabei die Leistung selbst auf weniger leistungsstarken Geräten optimieren. Mit diesen Features stellt die App eine mögliche Alternative zu cloudbasierten KI-Lösungen dar. Uns konnte die Offline-Performance von DeepSeek im Kurztest nicht überzeugen.
DeepSeek - KI-Assistent (Kostenlos, App Store) →
Private LLM - Lokaler KI-Chat (6,99 €, App Store) →
