Private LLM Chatbot De IA Seguro Y Privado Que Funciona Localmente En Su iPhone, iPad Y Mac

¿Le Importa Proteger Su Privacidad?

¿Sin Internet? ¡No hay problema! ¡Private LLM funciona en cualquier lugar, en cualquier momento!

Private LLM es un chatbot de IA local para iOS y macOS que funciona sin conexión, manteniendo tu información completamente en el dispositivo, segura y privada. No necesita internet para funcionar, por lo que tus datos nunca abandonan tu dispositivo y permanecen solo contigo. Sin cuotas de suscripción, pagas una vez y lo usas en todos tus dispositivos Apple. Está diseñado para todos, con características fáciles de usar para generar texto, ayudar con el idioma y mucho más. Private LLM utiliza los últimos modelos de IA cuantificados con técnicas de cuantización de última generación para proporcionar una experiencia de IA en el dispositivo de alta calidad sin comprometer tu privacidad. Es una forma inteligente y segura de ser creativo y productivo, en cualquier momento y lugar.
Vista cercana de una pantalla de iPhone mostrando la interfaz de la aplicación Private LLM, donde se introduce un prompt de texto en una interfaz similar a un chat, destacando la capacidad de la aplicación para ejecutar modelos de lenguaje sofisticados localmente en el dispositivo para mejorar la privacidad y la funcionalidad sin conexión

Aprovecha el poder de la IA de código abierto con Private LLM

Private LLM abre la puerta a las vastas posibilidades de la IA con soporte para una extensa selección de modelos LLM de código abierto, incluidos Llama 3, Google Gemma, Microsoft Phi-3, la familia Mixtral 8x7B y muchos más en tus iPhones, iPads y Macs. Esta amplia gama de soporte de modelos asegura que los usuarios en iOS, iPadOS y macOS puedan utilizar completamente el poder de la IA, personalizado específicamente para sus dispositivos.
Captura de pantalla de la aplicación Private LLM en un iPhone, mostrando una interfaz amigable con una lista de Modelos de Lenguaje Grande (LLMs) descargables disponibles para uso sin conexión, mostrando una variedad de nombres de modelos y descripciones, enfatizando la capacidad de la aplicación para experiencias de IA personalizadas mientras destaca su privacidad y funcionalidad sin conexión.

Crea tus propias soluciones de IA: No se necesita código con Siri y Apple Shortcuts

Descubre la simplicidad de llevar la IA a tus dispositivos iOS o macOS sin escribir una sola línea de código. Con Private LLM integrado en Siri y Shortcuts, los usuarios pueden crear fácilmente flujos de trabajo potentes y dirigidos por IA que automatizan tareas de análisis y generación de texto, proporcionan información instantánea y mejoran la creatividad. Esta interacción sin fisuras permite una experiencia personalizada que lleva la asistencia de IA a cualquier lugar de tu sistema operativo, haciendo cada acción más inteligente e intuitiva. Además, Private LLM también soporta la popular especificación x-callback-url, que es compatible con más de 70 aplicaciones populares de iOS y macOS. Private LLM se puede utilizar para añadir sin problemas funcionalidad de IA en el dispositivo a estas aplicaciones.
Un iPhone mostrando la interfaz de la aplicación Private LLM con una integración de Apple Shortcut, mostrando una experiencia de usuario sin fisuras para personalizar las interacciones de IA en iOS

Acceso Universal Sin Suscripciones

Olvídate de las suscripciones por una opción más inteligente con Private LLM. Una sola compra desbloquea la aplicación en todas las plataformas de Apple—iPhone, iPad y Mac—mientras habilita Family Sharing para hasta seis familiares. Este enfoque no solo simplifica el acceso sino que también amplifica el valor de tu inversión, haciendo que la privacidad digital y la inteligencia estén universalmente disponibles en tu familia.
Captura de pantalla de la interfaz de Private LLM en macOS, mostrando a un usuario tecleando un prompt en el campo de entrada de texto de la aplicación, listo para recibir respuestas instantáneas y sin conexión del modelo de lenguaje local

Servicios de Idioma de IA en Cualquier Lugar en macOS

Transforma tu escritura en todas las aplicaciones de macOS con herramientas impulsadas por IA. Desde la corrección gramatical hasta la resumización y más allá, nuestra solución soporta múltiples idiomas, incluyendo el inglés y ciertos idiomas del oeste europeo, para un mejoramiento de texto impecable.
Captura de pantalla mostrando la integración de Private LLM dentro del menú de servicios integrados al sistema de macOS.

Rendimiento Superior del Modelo con Cuantización de Última Generación

El núcleo del rendimiento superior del modelo de Private LLM reside en su uso del algoritmo de cuantización OmniQuant de última generación. Al cuantificar LLMs para inferencia en dispositivo, los valores atípicos en los pesos de LLM tienden a tener un efecto adverso marcado en la calidad de generación de texto. La cuantización Omniquant maneja los valores atípicos empleando un mecanismo de recorte de peso aprendible basado en optimización, que preserva la distribución de pesos del modelo con excepcional precisión. La cuantización RTN (Redondeo al más cercano) utilizada por marcos de inferencia LLM de código abierto populares y aplicaciones basadas en ellos, no maneja los valores atípicos durante la cuantización, lo que conduce a una calidad de generación de texto inferior. La cuantización OmniQuant, emparejada con núcleos Metal optimizados específicos del modelo, permite que Private LLM entregue una generación de texto que no solo es rápida sino también de la más alta calidad, elevando significativamente el listón para los LLMs en dispositivo.
Captura de pantalla de Private LLM ejecutando el modelo Mixtral 8x7B Instruct cuantizado en 4 bits por OmniQuant, con el prompt de Sally.
Captura de pantalla de LMStudio ejecutando el modelo Mixtral 8x7B Instruct cuantizado Q8_0, con el prompt de Sally.

Vea lo que nuestros usuarios dicen de nosotros en la App Store

Remarkably good app, very active developer
by Conventional Dog-Apr 7, 2024

Possibly the single best app purchase I've ever made. The developer is constantly improving it and talking with users on Discord and elsewhere. One price includes Mac, iPhone, and iPad versions (with family sharing). Mac shortcuts can be used to create what amount to custom GPTs. (There's even a user-contributed, quite clever bedtime story generator on the website.) The 10.7B-parameter SOLAR LLM (one of many included) running on my 16 GB M1 MacBook Air gives me fast responses that are subjectively almost on the level of GPT-3.5. For something running completely locally with full privacy, it's remarkable. More RAM allows an even larger choice of language models. But the tiniest model running on my iPhone 12 Pro is usable. (Tip: Experiment with changing the system prompt to fine-tune it for your purposes.)

Version 1.8.3|United States

Descargue los Mejores LLMs de Código Abierto

macOS

Modelos Basados en Phi-3 Mini 3.8B

Todos los Macs de Intel y Apple Silicon
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated Uncensored

Modelos Basados en Meta Llama 3 70B

Macs Apple Silicon con al menos 48GB de RAM
Meta Llama 3 70B Instruct 🦙

Modelos Basados en Google Gemma

Todos los Macs de Intel y Apple Silicon
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Modelos Basados en Mixtral 8x7B

Macs Apple Silicon con al menos 32GB de RAM
Mixtral-8x7B-Instruct-v0.1Dolphin 2.6 Mixtral 8x7B 🐬Nous Hermes 2 Mixtral 8x7B DPO ☤

Modelos Basados en Llama 33B

Macs Apple Silicon con al menos 24GB de RAM
WizardLM 33B v1.0 Uncensored

Modelos Basados en Llama 2 13B

Macs Apple Silicon con al menos 16GB de RAM
Wizard LM 13BSpicyboros 13B 🌶️Synthia 13B 1.2XWin-LM-13BMythomax L2 13B

Modelos Basados en CodeLlama 13B

Macs Apple Silicon con al menos 16GB de RAM
WhiteRabbitNeo-13B-v1

Modelos Basados en Llama 2 7B

Todos los Macs de Intel y Apple Silicon
airoboros-l2-7b-3.0Spicyboros 7b 2.2 🌶️Xwin-LM-7B v0.1

Modelos Basados en Solar 10.7B

Macs Apple Silicon con al menos 16GB de RAM
Nous-Hermes-2-SOLAR-10.7B ☤

Modelos Basados en Phi-2 3B

Todos los Macs de Intel y Apple Silicon
Phi-2 Orange 🍊Phi-2 Orange Version 2 🍊Dolphin 2.6 Phi-2 Uncensored 🐬

Modelos Basados en StableLM 3B

Todos los Macs de Intel y Apple Silicon
StableLM Zephyr 3B 🪁

Modelos Basados en Yi 6B

Todos los Macs de Intel y Apple Silicon
Yi 6B Chat 🇨🇳

Modelos Basados en Yi 34B

Macs Apple Silicon con al menos 24GB de RAM
Yi 34B Chat 🇨🇳
iOS

Modelos Basados en Phi-3 Mini 3.8B

en dispositivos con 6GB o más de RAM
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated Uncensored

Modelos Basados en Google Gemma

en dispositivos con 8GB o más de RAM
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Modelos Basados en Llama 2 7B

en dispositivos con 6GB o más de RAM
Airoboros l2 7b 3.0Spicyboros 7b 2.2 🌶️

Modelos Basados en Phi-2 3B

en dispositivos con 4GB o más de RAM
Phi-2 Orange 🍊Dolphin 2.6 Phi-2 Uncensored 🐬Phi-2 Super 🤖Phi-2 Orange v2 🍊

Modelos Basados en H2O Danube

en todos los dispositivos
H2O Danube 1.8B Chat

Modelos Basados en StableLM 3B

en dispositivos con 4GB o más de RAM
StableLM 2 Zephyr 1.6B 🪁Nous-Capybara-3B V1.9Rocket 3B 🚀

Modelos Basados en TinyLlama 1.1B

en todos los dispositivos
TinyLlama 1.1B Chat 🦙TinyDolphin 2.8 1.1B Chat 🐬

Modelos Basados en Yi 6B

en dispositivos con 6GB o más de RAM
Yi 6B Chat 🇨🇳
¿Cómo podemos ayudar?

Tanto si tienes una pregunta como si te enfrentas a un problema con Private LLM, estamos aquí para ayudarte. Solo deja tus detalles en el formulario de abajo, y te responderemos tan pronto como podamos.