Private LLM Beveiligde, Privé AI-Chatbot Die Lokaal Werkt Op Uw iPhone, iPad En Mac

Hecht U Waarde Aan Het Beschermen Van Uw Privacy?

Geen internet? Geen probleem! Private LLM werkt overal en altijd!

Private LLM is een lokale AI-chatbot voor iOS en macOS die offline werkt, waardoor je informatie volledig op het apparaat blijft, veilig en privé. Het heeft geen internet nodig om te werken, dus je gegevens verlaten je apparaat niet en blijven alleen bij jou. Zonder abonnementskosten, betaal je eenmalig en gebruik je het op al je Apple-apparaten. Het is ontworpen voor iedereen, met eenvoudig te gebruiken functies voor het genereren van tekst, hulp bij taal, en nog veel meer. Private LLM gebruikt de nieuwste AI-modellen gequantificeerd met state-of-the-art kwantisatietechnieken om een hoogwaardige AI-ervaring op het apparaat te bieden zonder je privacy in gevaar te brengen. Het is een slimme, veilige manier om creatief en productief te zijn, altijd en overal.

Een close-upweergave van een iPhone-scherm met de interface van de Private LLM-app, waarin een tekstprompt wordt ingevoerd in een chat-achtige interface, waardoor de mogelijkheid van de app wordt benadrukt om geavanceerde taalmodellen lokaal op het apparaat uit te voeren voor verbeterde privacy en offline functionaliteit

Benut de kracht van open-source AI met Private LLM

Private LLM opent de deur naar de uitgebreide mogelijkheden van AI met ondersteuning voor een uitgebreide selectie van open-source LLM-modellen, waaronder Llama 3, Google Gemma, Microsoft Phi-3, de Mixtral 8x7B-familie en vele anderen op zowel uw iPhones, iPads als Macs. Dit brede scala aan modelondersteuning zorgt ervoor dat gebruikers op iOS, iPadOS en macOS de kracht van AI volledig kunnen benutten, specifiek aangepast voor hun apparaten.

Vind de Beste Open-Source LLM voor Uw Apparaat

Screenshot van de Private LLM-app op een iPhone, met een gebruiksvriendelijke interface met een lijst van downloadbare Large Language Models (LLMs) beschikbaar voor offline gebruik, met een verscheidenheid aan modelnamen en beschrijvingen, waarbij de mogelijkheid van de app voor gepersonaliseerde AI-ervaringen wordt benadrukt en tegelijkertijd de privacy en offline functionaliteit.

Creëer je eigen AI-oplossingen: Geen code nodig met Siri en Apple Shortcuts

Ontdek de eenvoud van het brengen van AI naar je iOS- of macOS-apparaten zonder ook maar één regel code te schrijven. Met Private LLM geïntegreerd in Siri en Shortcuts, kunnen gebruikers moeiteloos krachtige, door AI aangedreven workflows creëren die tekstparsings- en generatietaken automatiseren, onmiddellijke informatie bieden en creativiteit versterken. Deze naadloze interactie zorgt voor een gepersonaliseerde ervaring die AI-assistentie overal in je besturingssysteem brengt, waardoor elke actie slimmer en intuïtiever wordt. Daarnaast ondersteunt Private LLM ook de populaire x-callback-url specificatie, die door meer dan 70 populaire iOS- en macOS-applicaties wordt ondersteund. Private LLM kan worden gebruikt om naadloos AI-functionaliteit op het apparaat toe te voegen aan deze apps.

Ontdek door gebruikers gemaakte Apple Shortcuts, aangedreven door Private LLM

Een iPhone die de Private LLM-appinterface toont met een Apple Shortcut-integratie, waarbij een naadloze gebruikerservaring wordt getoond voor het personaliseren van AI-interacties op iOS

Universele toegang zonder abonnementen

Zeg de abonnementen vaarwel voor een slimmere keuze met Private LLM. Een enkele aankoop ontgrendelt de app op alle Apple-platforms—iPhone, iPad en Mac—terwijl Family Sharing wordt ingeschakeld voor maximaal zes familieleden. Deze benadering vereenvoudigt niet alleen de toegang, maar vergroot ook de waarde van je investering, waardoor digitale privacy en intelligentie universeel beschikbaar worden in je familie.

Screenshot van de Private LLM-interface op macOS, met een gebruiker die een prompt typt in het tekstinvoerveld van de applicatie, klaar om directe, offline antwoorden te ontvangen van het lokale taalmodel

AI-taaldiensten overal in macOS

Transformeer je schrijven in alle macOS-apps met AI-aangedreven tools. Van grammaticacorrectie tot samenvatting en meer, onze oplossing ondersteunt meerdere talen, waaronder Engels en geselecteerde West-Europese talen, voor foutloze tekstverbetering.

Screenshot met de integratie van Private LLM binnen het systeembrede servicesmenu van macOS.

Superieure modelprestaties met state-of-the-art kwantisatie

De kern van de superieure modelprestaties van Private LLM ligt in het gebruik van het state-of-the-art OmniQuant kwantisatiealgoritme. Bij het kwantiseren van LLM's voor inferentie op het apparaat, hebben uitschieterwaarden in LLM-gewichten de neiging om een aanzienlijk negatief effect te hebben op de kwaliteit van tekstgeneratie. Omniquant kwantisatie behandelt uitschieters door een optimalisatie gebaseerd leerbaar gewichtsknippingsmechanisme te gebruiken, dat de gewichtsverdeling van het model met uitzonderlijke precisie behoudt. RTN (Round to nearest) kwantisatie, gebruikt door populaire open-source LLM-inferentie frameworks en apps gebaseerd op deze, behandelt uitschieterwaarden tijdens kwantisatie niet, wat leidt tot inferieure tekstgeneratiekwaliteit. OmniQuant kwantisatie, gecombineerd met geoptimaliseerde model-specifieke Metal kernels, stelt Private LLM in staat om tekstgeneratie te leveren die niet alleen snel is, maar ook van de hoogste kwaliteit, waardoor de lat aanzienlijk hoger wordt gelegd voor LLM's op het apparaat.

Private LLM vs Ollama

Lees wat onze gebruikers over ons zeggen in de App Store

A distinct approach

by Original Nifty-Oct 12, 2024

This application is unique in creating the conditions for an interaction whose essence is of a noticeably superior quality., despite (and partly because of) the fact that the model is running completely locally! While at the time of writing the UI is in the early stages of development, it is still workable, easy and stable, allowing the interaction with the model to continue over an extended period. The developers take a distinct and very refreshing ethical position, and are most generous. I am very grateful to them.

Version 1.8.9|United Kingdom

op apparaten met 6GB of meer RAM

Yi 6B Chat 🇨🇳

macOS

Op Meta Llama 3.3 70B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 48GB RAM

Meta Llama 3.3 70B Instruct 🦙Llama 3.3 70B Instruct Abliterated (Uncensored)EVA LLaMA 3.33 70B v0.0 (Role-Play/Story Writing)Llama 3.3 70B Euryale v2.3 (Role-Play/Story Writing)

Op Meta Llama 3.2 3B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Meta Llama 3.2 3B Instruct 🦙Llama 3.2 3B Instruct Abliterated 🦙 (Uncensored)Llama 3.2 3B Instruct Uncensored 🦙Hermes 3 Llama 3.2 3B FuseChat Llama 3.2 3B Instruct

Op Meta Llama 3.2 1B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Meta Llama 3.2 1B Instruct 🦙Llama 3.2 1B Instruct Abliterated 🦙 (Uncensored)FuseChat Llama 3.2 1B Instruct

Op Meta Llama 3.1 70B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 64GB RAM

Meta Llama 3.1 70B Instruct 🦙

Op Meta Llama 3.1 8B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Meta Llama 3.1 8B Instruct 🦙Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)Hermes 3 Llama 3.1 8B FuseChat Llama 3.1 8B Instruct Llama 3.1 8B Lexi Uncensored V2 (Therapist)

Qwen 2.5 Gebaseerde Modellen

Alle Apple Silicon Macs

Qwen 2.5 0.5B Unquantized Qwen 2.5 1.5B Qwen 2.5 3B Qwen 2.5 7B Qwen 2.5 Coder 0.5B Unquantized Qwen 2.5 Coder 1.5B Qwen 2.5 Coder 3B Qwen 2.5 Coder 7B FuseChat Qwen 2.5 7B Instruct EVA-D Qwen2.5 1.5B v0.0 (Role-Play/Story Writing)EVA Qwen2.5 7B v0.1 (Role-Play/Story Writing)

Qwen 2.5 14B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM

Qwen 2.5 Coder 14B EVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)

Qwen 2.5 32B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 24GB RAM

Qwen 2.5 32B Qwen 2.5 Coder 32B EVA Qwen2.5 32B v0.2 (Role-Play/Story Writing)

Op Google Gemma 2 9B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM

Gemma-2 9B IT 💎Gemma-2 9B IT SPPO Iter3 Tiger Gemma 9B v3 🐅 (Uncensored)FuseChat Gemma 2 9B Instruct

Op Google Gemma 2 2B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

Op Meta Llama 3 70B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 48GB RAM

Meta Llama 3 70B Instruct 🦙Smaug Llama 3 70B Instruct Smaug Llama 3 70B Instruct Abliterated v3 (Uncensored)Cat Llama 3 70B Instruct

Op Meta Llama 3 8B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Op Phi-3 Mini 3.8B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Phi-3 Mini 4K Instruct Kappa-3 Phi Abliterated (Uncensored)

Op Google Gemma Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Op Mixtral 8x7B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 32GB RAM

Mixtral-8x7B-Instruct-v0.1 Dolphin 2.6 Mixtral 8x7B 🐬Nous Hermes 2 Mixtral 8x7B DPO ☤

Op Llama 33B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 24GB RAM

WizardLM 33B v1.0 (Uncensored)

Op Llama 2 13B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM

Wizard LM 13B Spicyboros 13B 🌶️Synthia 13B 1.2 XWin-LM-13B Mythomax L2 13B

Op CodeLlama 13B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM

WhiteRabbitNeo-13B-v1

Op Llama 2 7B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

airoboros-l2-7b-3.0 Spicyboros 7b 2.2 🌶️Xwin-LM-7B v0.1

Op Solar 10.7B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM

Nous-Hermes-2-SOLAR-10.7B ☤

Op Phi-2 3B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Phi-2 Orange 🍊Phi-2 Orange Version 2 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬

StableLM 3B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

StableLM Zephyr 3B 🪁

Op Yi 6B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs

Yi 6B Chat 🇨🇳

Op Yi 34B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 24GB RAM

Yi 34B Chat 🇨🇳

Hoe kunnen we helpen?

Heb je een vraag of ervaar je een probleem met Private LLM, wij staan voor je klaar. Vul je gegevens in het onderstaande formulier in, en we nemen zo snel mogelijk contact met je op.