Private LLM Beveiligde, Privé AI-Chatbot Die Lokaal Werkt Op Uw iPhone, iPad En Mac

Hecht U Waarde Aan Het Beschermen Van Uw Privacy?

Geen internet? Geen probleem! Private LLM werkt overal en altijd!

Private LLM is een lokale AI-chatbot voor iOS en macOS die offline werkt, waardoor je informatie volledig op het apparaat blijft, veilig en privé. Het heeft geen internet nodig om te werken, dus je gegevens verlaten je apparaat niet en blijven alleen bij jou. Zonder abonnementskosten, betaal je eenmalig en gebruik je het op al je Apple-apparaten. Het is ontworpen voor iedereen, met eenvoudig te gebruiken functies voor het genereren van tekst, hulp bij taal, en nog veel meer. Private LLM gebruikt de nieuwste AI-modellen gequantificeerd met state-of-the-art kwantisatietechnieken om een ​​hoogwaardige AI-ervaring op het apparaat te bieden zonder je privacy in gevaar te brengen. Het is een slimme, veilige manier om creatief en productief te zijn, altijd en overal.
Een close-upweergave van een iPhone-scherm met de interface van de Private LLM-app, waarin een tekstprompt wordt ingevoerd in een chat-achtige interface, waardoor de mogelijkheid van de app wordt benadrukt om geavanceerde taalmodellen lokaal op het apparaat uit te voeren voor verbeterde privacy en offline functionaliteit

Benut de kracht van open-source AI met Private LLM

Private LLM opent de deur naar de uitgebreide mogelijkheden van AI met ondersteuning voor een uitgebreide selectie van open-source LLM-modellen, waaronder Llama 3, Google Gemma, Microsoft Phi-3, de Mixtral 8x7B-familie en vele anderen op zowel uw iPhones, iPads als Macs. Dit brede scala aan modelondersteuning zorgt ervoor dat gebruikers op iOS, iPadOS en macOS de kracht van AI volledig kunnen benutten, specifiek aangepast voor hun apparaten.
Screenshot van de Private LLM-app op een iPhone, met een gebruiksvriendelijke interface met een lijst van downloadbare Large Language Models (LLMs) beschikbaar voor offline gebruik, met een verscheidenheid aan modelnamen en beschrijvingen, waarbij de mogelijkheid van de app voor gepersonaliseerde AI-ervaringen wordt benadrukt en tegelijkertijd de privacy en offline functionaliteit.

Creëer je eigen AI-oplossingen: Geen code nodig met Siri en Apple Shortcuts

Ontdek de eenvoud van het brengen van AI naar je iOS- of macOS-apparaten zonder ook maar één regel code te schrijven. Met Private LLM geïntegreerd in Siri en Shortcuts, kunnen gebruikers moeiteloos krachtige, door AI aangedreven workflows creëren die tekstparsings- en generatietaken automatiseren, onmiddellijke informatie bieden en creativiteit versterken. Deze naadloze interactie zorgt voor een gepersonaliseerde ervaring die AI-assistentie overal in je besturingssysteem brengt, waardoor elke actie slimmer en intuïtiever wordt. Daarnaast ondersteunt Private LLM ook de populaire x-callback-url specificatie, die door meer dan 70 populaire iOS- en macOS-applicaties wordt ondersteund. Private LLM kan worden gebruikt om naadloos AI-functionaliteit op het apparaat toe te voegen aan deze apps.
Een iPhone die de Private LLM-appinterface toont met een Apple Shortcut-integratie, waarbij een naadloze gebruikerservaring wordt getoond voor het personaliseren van AI-interacties op iOS

Universele toegang zonder abonnementen

Zeg de abonnementen vaarwel voor een slimmere keuze met Private LLM. Een enkele aankoop ontgrendelt de app op alle Apple-platforms—iPhone, iPad en Mac—terwijl Family Sharing wordt ingeschakeld voor maximaal zes familieleden. Deze benadering vereenvoudigt niet alleen de toegang, maar vergroot ook de waarde van je investering, waardoor digitale privacy en intelligentie universeel beschikbaar worden in je familie.
Screenshot van de Private LLM-interface op macOS, met een gebruiker die een prompt typt in het tekstinvoerveld van de applicatie, klaar om directe, offline antwoorden te ontvangen van het lokale taalmodel

AI-taaldiensten overal in macOS

Transformeer je schrijven in alle macOS-apps met AI-aangedreven tools. Van grammaticacorrectie tot samenvatting en meer, onze oplossing ondersteunt meerdere talen, waaronder Engels en geselecteerde West-Europese talen, voor foutloze tekstverbetering.
Screenshot met de integratie van Private LLM binnen het systeembrede servicesmenu van macOS.

Superieure modelprestaties met state-of-the-art kwantisatie

De kern van de superieure modelprestaties van Private LLM ligt in het gebruik van het state-of-the-art OmniQuant kwantisatiealgoritme. Bij het kwantiseren van LLM's voor inferentie op het apparaat, hebben uitschieterwaarden in LLM-gewichten de neiging om een ​​aanzienlijk negatief effect te hebben op de kwaliteit van tekstgeneratie. Omniquant kwantisatie behandelt uitschieters door een optimalisatie gebaseerd leerbaar gewichtsknippingsmechanisme te gebruiken, dat de gewichtsverdeling van het model met uitzonderlijke precisie behoudt. RTN (Round to nearest) kwantisatie, gebruikt door populaire open-source LLM-inferentie frameworks en apps gebaseerd op deze, behandelt uitschieterwaarden tijdens kwantisatie niet, wat leidt tot inferieure tekstgeneratiekwaliteit. OmniQuant kwantisatie, gecombineerd met geoptimaliseerde model-specifieke Metal kernels, stelt Private LLM in staat om tekstgeneratie te leveren die niet alleen snel is, maar ook van de hoogste kwaliteit, waardoor de lat aanzienlijk hoger wordt gelegd voor LLM's op het apparaat.

Lees wat onze gebruikers over ons zeggen in de App Store

Remarkably good app, very active developer
by Conventional Dog-Apr 7, 2024

Possibly the single best app purchase I've ever made. The developer is constantly improving it and talking with users on Discord and elsewhere. One price includes Mac, iPhone, and iPad versions (with family sharing). Mac shortcuts can be used to create what amount to custom GPTs. (There's even a user-contributed, quite clever bedtime story generator on the website.) The 10.7B-parameter SOLAR LLM (one of many included) running on my 16 GB M1 MacBook Air gives me fast responses that are subjectively almost on the level of GPT-3.5. For something running completely locally with full privacy, it's remarkable. More RAM allows an even larger choice of language models. But the tiniest model running on my iPhone 12 Pro is usable. (Tip: Experiment with changing the system prompt to fine-tune it for your purposes.)

Version 1.8.3|United States

Download de Beste Open Source LLM's

iOS

Op Meta Llama 3.2 3B Gebaseerde Modellen

op apparaten met 6GB of meer RAM
Meta Llama 3.2 3B Instruct 🦙

Op Meta Llama 3.2 1B Gebaseerde Modellen

op alle apparaten
Meta Llama 3.2 1B Instruct 🦙

Op Meta Llama 3.1 8B Gebaseerde Modellen

op apparaten met 8GB of meer RAM
Meta Llama 3.1 8B Instruct 🦙Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)

Op Google Gemma 2 Gebaseerde Modellen

op apparaten met 4GB of meer RAM
Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

Op Phi-3 Mini 3.8B Gebaseerde Modellen

op apparaten met 6GB of meer RAM
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated (Uncensored)

Op Google Gemma Gebaseerde Modellen

op apparaten met 8GB of meer RAM
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Op Llama 2 7B Gebaseerde Modellen

op apparaten met 6GB of meer RAM
Airoboros l2 7b 3.0Spicyboros 7b 2.2 🌶️

Op Phi-2 3B Gebaseerde Modellen

op apparaten met 4GB of meer RAM
Phi-2 Orange 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬Phi-2 Super 🤖Phi-2 Orange v2 🍊

Op H2O Danube Gebaseerde Modellen

op alle apparaten
H2O Danube 1.8B Chat

StableLM 3B Gebaseerde Modellen

op apparaten met 4GB of meer RAM
StableLM 2 Zephyr 1.6B 🪁Nous-Capybara-3B V1.9Rocket 3B 🚀

TinyLlama 1.1B Gebaseerde Modellen

op alle apparaten
TinyLlama 1.1B Chat 🦙TinyDolphin 2.8 1.1B Chat 🐬

Op Yi 6B Gebaseerde Modellen

op apparaten met 6GB of meer RAM
Yi 6B Chat 🇨🇳
macOS

Op Meta Llama 3.1 70B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 64GB RAM
Meta Llama 3.1 70B Instruct 🦙

Op Meta Llama 3.1 8B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Meta Llama 3.1 8B Instruct 🦙Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)

Op Google Gemma 2 Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

Op Phi-3 Mini 3.8B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated (Uncensored)

Op Google Gemma Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Op Mixtral 8x7B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 32GB RAM
Mixtral-8x7B-Instruct-v0.1Dolphin 2.6 Mixtral 8x7B 🐬Nous Hermes 2 Mixtral 8x7B DPO ☤

Op Llama 33B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 24GB RAM
WizardLM 33B v1.0 (Uncensored)

Op Llama 2 13B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM
Wizard LM 13BSpicyboros 13B 🌶️Synthia 13B 1.2XWin-LM-13BMythomax L2 13B

Op CodeLlama 13B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM
WhiteRabbitNeo-13B-v1

Op Llama 2 7B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
airoboros-l2-7b-3.0Spicyboros 7b 2.2 🌶️Xwin-LM-7B v0.1

Op Solar 10.7B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 16GB RAM
Nous-Hermes-2-SOLAR-10.7B ☤

Op Phi-2 3B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Phi-2 Orange 🍊Phi-2 Orange Version 2 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬

StableLM 3B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
StableLM Zephyr 3B 🪁

Op Yi 6B Gebaseerde Modellen

Alle Intel- en Apple Silicon-Macs
Yi 6B Chat 🇨🇳

Op Yi 34B Gebaseerde Modellen

Apple Silicon-Macs met ten minste 24GB RAM
Yi 34B Chat 🇨🇳
Hoe kunnen we helpen?

Heb je een vraag of ervaar je een probleem met Private LLM, wij staan voor je klaar. Vul je gegevens in het onderstaande formulier in, en we nemen zo snel mogelijk contact met je op.