Zum Inhalt springen
Private LLM
Design

Probiere Private LLM 2 auf deinem iPhone, iPad und Mac aus

Die Modelle laufen weiterhin auf deinem Gerät. Jetzt verarbeiten sie multimodale Eingaben und durchsuchen deine Dokumente mit RAG auf dem Gerät.

Für Early Access öffne die Private LLM App und gehe zu Settings > About.

Im App Store laden

Erfordert iOS 26 oder iPadOS 26 auf einem iPhone oder iPad mit A14-Chip oder neuer beziehungsweise macOS 26 auf einem Mac mit Apple Silicon. Ternary Bonsai 2 27B benötigt ein iPhone mit 12 GB Arbeitsspeicher.

Ein Private LLM 2-Chat, in dem Ternary Bonsai 2 27B eine Frage beantwortetEin Private LLM 2-Chat, in dem Ternary Bonsai 2 27B eine Frage beantwortet

Bonsai 2 27B läuft auf einem iPhone 17 Pro

Private LLM 2 führt Modelle aus, von denen andere lokale KI-Apps glauben, dass sie auf dem iPhone nicht laufen können. Ternary Bonsai 2 27B, ein 2-Bit-Modell, läuft auf einem iPhone 17 Pro.

Neuigkeiten in Private LLM 2

  • Modelle, die Tools verwenden

    Modelle, die Tool Calling unterstützen, können JavaScript auf deinem Gerät ausführen. Dieses Tool ist standardmäßig aktiviert. Websuche und das Abrufen von Webseiten sind optional und werden von dir selbst aktiviert. All das gibt es in der aktuellen Private LLM-App nicht.

    Ein Private LLM 2-Chat, in dem das Modell ein Tool aufruft und mit dessen Ergebnis antwortetEin Private LLM 2-Chat, in dem das Modell ein Tool aufruft und mit dessen Ergebnis antwortet

  • Mit deinen Dokumenten chatten

    Hänge vor deiner ersten Nachricht eine PDF-, Text- oder Markdown-Datei an. Private LLM 2 indexiert und durchsucht sie auf deinem Gerät. Der Dokumenten-Chat benötigt ein Modell mit Tool-Unterstützung.

    Ein PDF, das an einen Private LLM 2-Chat angehängt ist, mit einer Antwort aus dem DokumentEin PDF, das an einen Private LLM 2-Chat angehängt ist, mit einer Antwort aus dem Dokument

  • Fotos und Audio anhängen

    Du kannst Fotos und Bilder an Vision-Modelle anhängen. In dieser Beta sind das Gemma 4, Qwen3.5, Bonsai und North Micro Vision. Gemma-4-Modelle akzeptieren auch Audiodateien. Einige der größeren Modelle benötigen dafür ein Gerät mit mehr Arbeitsspeicher.

    Ein Foto, das an einen Private LLM 2-Chat angehängt ist und von einem Vision-Modell beschrieben wirdEin Foto, das an einen Private LLM 2-Chat angehängt ist und von einem Vision-Modell beschrieben wird

  • Neue Modelle zum Ausprobieren

    Gemma 4 und Qwen3.5 sind neue Generationen von Gemma und Qwen. Granite 4.1, Bonsai, MiniCPM5, North und Lizzy sind neue Familien, und Bonsai umfasst ein ternäres 27B-Modell. Auf unterstützten Geräten generiert Gemma 4 mit spekulativer Decodierung schneller. Bei Modellen mit Reasoning kannst du den Reasoning-Aufwand in fünf Stufen festlegen. Die Auswahl kann sich während der Beta ändern.

    Die Modellliste von Private LLM 2: zuerst die empfohlenen Modelle, danach die Bereiche Gemma 4 und Qwen3.5Die Modellliste von Private LLM 2: zuerst die empfohlenen Modelle, danach die Bereiche Gemma 4 und Qwen3.5

  • Web-Tools bleiben aus, bis du sie aktivierst

    Webtools sind standardmäßig deaktiviert - aus einem einfachen Grund: Eine Websuche ist nicht möglich, ohne etwas nach außen zu senden. Wenn du sie aktivierst, verlassen deine Suchanfrage oder die Seitenadresse dein Gerät. Beim ersten Mal entscheidest du, wohin sie gesendet werden. Automatisch sendet sie an einen Drittanbieter für die Suche, wobei eine direkte Suche von deinem Gerät als Fallback dient. Der Nur-auf-dem-Gerät-Modus umgeht den Anbieter bei Websuche und beim Abrufen von Webseiten, kontaktiert aber weiterhin die Suchmaschine und die Websites selbst.

    Die Private LLM 2-Auswahl, die beim ersten Aktivieren des Webzugriffs festlegt, wohin Websuchen gehenDie Private LLM 2-Auswahl, die beim ersten Aktivieren des Webzugriffs festlegt, wohin Websuchen gehen

So bekommst du die Beta

  1. Lade dir Private LLM aus dem App Store, oder aktualisiere die App, wenn du sie schon hast.
  2. Gehe zu Settings > About > Private LLM 2. Der Link wird auf iOS 26, iPadOS 26 und macOS 26 mit Apple Silicon angezeigt.
  3. Tippe auf Private LLM 2, um TestFlight zu öffnen, und installiere dann die Beta.

Private LLM 2 ist eine separate App. Die App wird neben der aktuellen Private LLM App installiert. Deine Chats und Modelle werden nicht übernommen, plane also ein, ein Modell erneut herunterzuladen.

Private LLM 2 ist ein kostenloses Upgrade für alle, die Private LLM besitzen.

Im App Store laden

Sag uns, was nicht funktioniert

Das ist eine Beta, und wahrscheinlich geht etwas kaputt. Sende Feedback über TestFlight, wo du Screenshots anhängen kannst, oder sprich mit uns auf Discord.

Discord