Private LLM Chatbot De IA Seguro Y Privado Que Funciona Localmente En Su iPhone, iPad Y Mac

¿Le Importa Proteger Su Privacidad?

¿Sin Internet? ¡No hay problema! ¡Private LLM funciona en cualquier lugar, en cualquier momento!

Private LLM es un chatbot de IA local para iOS y macOS que funciona sin conexión, manteniendo tu información completamente en el dispositivo, segura y privada. No necesita internet para funcionar, por lo que tus datos nunca abandonan tu dispositivo y permanecen solo contigo. Sin cuotas de suscripción, pagas una vez y lo usas en todos tus dispositivos Apple. Está diseñado para todos, con características fáciles de usar para generar texto, ayudar con el idioma y mucho más. Private LLM utiliza los últimos modelos de IA cuantificados con técnicas de cuantización de última generación para proporcionar una experiencia de IA en el dispositivo de alta calidad sin comprometer tu privacidad. Es una forma inteligente y segura de ser creativo y productivo, en cualquier momento y lugar.

Vista cercana de una pantalla de iPhone mostrando la interfaz de la aplicación Private LLM, donde se introduce un prompt de texto en una interfaz similar a un chat, destacando la capacidad de la aplicación para ejecutar modelos de lenguaje sofisticados localmente en el dispositivo para mejorar la privacidad y la funcionalidad sin conexión

Aprovecha el poder de la IA de código abierto con Private LLM

Private LLM abre la puerta a las vastas posibilidades de la IA con soporte para una extensa selección de modelos LLM de código abierto, incluidos Llama 3, Google Gemma, Microsoft Phi-3, la familia Mixtral 8x7B y muchos más en tus iPhones, iPads y Macs. Esta amplia gama de soporte de modelos asegura que los usuarios en iOS, iPadOS y macOS puedan utilizar completamente el poder de la IA, personalizado específicamente para sus dispositivos.

Encuentre el Mejor LLM de Código Abierto para Su Dispositivo

Captura de pantalla de la aplicación Private LLM en un iPhone, mostrando una interfaz amigable con una lista de Modelos de Lenguaje Grande (LLMs) descargables disponibles para uso sin conexión, mostrando una variedad de nombres de modelos y descripciones, enfatizando la capacidad de la aplicación para experiencias de IA personalizadas mientras destaca su privacidad y funcionalidad sin conexión.

Crea tus propias soluciones de IA: No se necesita código con Siri y Apple Shortcuts

Descubre la simplicidad de llevar la IA a tus dispositivos iOS o macOS sin escribir una sola línea de código. Con Private LLM integrado en Siri y Shortcuts, los usuarios pueden crear fácilmente flujos de trabajo potentes y dirigidos por IA que automatizan tareas de análisis y generación de texto, proporcionan información instantánea y mejoran la creatividad. Esta interacción sin fisuras permite una experiencia personalizada que lleva la asistencia de IA a cualquier lugar de tu sistema operativo, haciendo cada acción más inteligente e intuitiva. Además, Private LLM también soporta la popular especificación x-callback-url, que es compatible con más de 70 aplicaciones populares de iOS y macOS. Private LLM se puede utilizar para añadir sin problemas funcionalidad de IA en el dispositivo a estas aplicaciones.

Descubre los atajos de Apple creados por usuarios, impulsados por Private LLM

Un iPhone mostrando la interfaz de la aplicación Private LLM con una integración de Apple Shortcut, mostrando una experiencia de usuario sin fisuras para personalizar las interacciones de IA en iOS

Acceso Universal Sin Suscripciones

Olvídate de las suscripciones por una opción más inteligente con Private LLM. Una sola compra desbloquea la aplicación en todas las plataformas de Apple—iPhone, iPad y Mac—mientras habilita Family Sharing para hasta seis familiares. Este enfoque no solo simplifica el acceso sino que también amplifica el valor de tu inversión, haciendo que la privacidad digital y la inteligencia estén universalmente disponibles en tu familia.

Captura de pantalla de la interfaz de Private LLM en macOS, mostrando a un usuario tecleando un prompt en el campo de entrada de texto de la aplicación, listo para recibir respuestas instantáneas y sin conexión del modelo de lenguaje local

Servicios de Idioma de IA en Cualquier Lugar en macOS

Transforma tu escritura en todas las aplicaciones de macOS con herramientas impulsadas por IA. Desde la corrección gramatical hasta la resumización y más allá, nuestra solución soporta múltiples idiomas, incluyendo el inglés y ciertos idiomas del oeste europeo, para un mejoramiento de texto impecable.

Captura de pantalla mostrando la integración de Private LLM dentro del menú de servicios integrados al sistema de macOS.

Rendimiento Superior del Modelo con Cuantización de Última Generación

El núcleo del rendimiento superior del modelo de Private LLM reside en su uso del algoritmo de cuantización OmniQuant de última generación. Al cuantificar LLMs para inferencia en dispositivo, los valores atípicos en los pesos de LLM tienden a tener un efecto adverso marcado en la calidad de generación de texto. La cuantización Omniquant maneja los valores atípicos empleando un mecanismo de recorte de peso aprendible basado en optimización, que preserva la distribución de pesos del modelo con excepcional precisión. La cuantización RTN (Redondeo al más cercano) utilizada por marcos de inferencia LLM de código abierto populares y aplicaciones basadas en ellos, no maneja los valores atípicos durante la cuantización, lo que conduce a una calidad de generación de texto inferior. La cuantización OmniQuant, emparejada con núcleos Metal optimizados específicos del modelo, permite que Private LLM entregue una generación de texto que no solo es rápida sino también de la más alta calidad, elevando significativamente el listón para los LLMs en dispositivo.

Private LLM vs. Ollama

Vea lo que nuestros usuarios dicen de nosotros en la App Store

A distinct approach

by Original Nifty-Oct 12, 2024

This application is unique in creating the conditions for an interaction whose essence is of a noticeably superior quality., despite (and partly because of) the fact that the model is running completely locally! While at the time of writing the UI is in the early stages of development, it is still workable, easy and stable, allowing the interaction with the model to continue over an extended period. The developers take a distinct and very refreshing ethical position, and are most generous. I am very grateful to them.

Version 1.8.9|United Kingdom

en dispositivos con 6GB o más de RAM

Yi 6B Chat 🇨🇳

macOS

Modelos Basados en Meta Llama 3.3 70B

Macs Apple Silicon con al menos 48GB de RAM

Meta Llama 3.3 70B Instruct 🦙Llama 3.3 70B Instruct Abliterated (Uncensored)EVA LLaMA 3.33 70B v0.0 (Role-Play/Story Writing)Llama 3.3 70B Euryale v2.3 (Role-Play/Story Writing)

Modelos Basados en Meta Llama 3.2 3B

Todos los Macs de Intel y Apple Silicon

Meta Llama 3.2 3B Instruct 🦙Llama 3.2 3B Instruct Abliterated 🦙 (Uncensored)Llama 3.2 3B Instruct Uncensored 🦙Hermes 3 Llama 3.2 3B FuseChat Llama 3.2 3B Instruct

Modelos Basados en Meta Llama 3.2 1B

Todos los Macs de Intel y Apple Silicon

Meta Llama 3.2 1B Instruct 🦙Llama 3.2 1B Instruct Abliterated 🦙 (Uncensored)FuseChat Llama 3.2 1B Instruct

Modelos Basados en Meta Llama 3.1 70B

Macs Apple Silicon con al menos 64GB de RAM

Meta Llama 3.1 70B Instruct 🦙

Modelos Basados en Meta Llama 3.1 8B

Todos los Macs de Intel y Apple Silicon

Meta Llama 3.1 8B Instruct 🦙Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)Hermes 3 Llama 3.1 8B FuseChat Llama 3.1 8B Instruct Llama 3.1 8B Lexi Uncensored V2 (Therapist)

Modelos Basados en Qwen 2.5

Todos los Macs con Apple Silicon

Qwen 2.5 0.5B Unquantized Qwen 2.5 1.5B Qwen 2.5 3B Qwen 2.5 7B Qwen 2.5 Coder 0.5B Unquantized Qwen 2.5 Coder 1.5B Qwen 2.5 Coder 3B Qwen 2.5 Coder 7B FuseChat Qwen 2.5 7B Instruct EVA-D Qwen2.5 1.5B v0.0 (Role-Play/Story Writing)EVA Qwen2.5 7B v0.1 (Role-Play/Story Writing)

Modelos Basados en Qwen 2.5 14B

Macs Apple Silicon con al menos 16GB de RAM

Qwen 2.5 Coder 14B EVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)

Modelos Basados en Qwen 2.5 32B

Macs Apple Silicon con al menos 24GB de RAM

Qwen 2.5 32B Qwen 2.5 Coder 32B EVA Qwen2.5 32B v0.2 (Role-Play/Story Writing)

Modelos Basados en Google Gemma 2 9B

Macs Apple Silicon con al menos 16GB de RAM

Gemma-2 9B IT 💎Gemma-2 9B IT SPPO Iter3 Tiger Gemma 9B v3 🐅 (Uncensored)FuseChat Gemma 2 9B Instruct

Modelos Basados en Google Gemma 2 2B

Todos los Macs de Intel y Apple Silicon

Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

Modelos Basados en Meta Llama 3 70B

Macs Apple Silicon con al menos 48GB de RAM

Meta Llama 3 70B Instruct 🦙Smaug Llama 3 70B Instruct Smaug Llama 3 70B Instruct Abliterated v3 (Uncensored)Cat Llama 3 70B Instruct

Modelos Basados en Meta Llama 3 8B

Todos los Macs de Intel y Apple Silicon

Modelos Basados en Phi-3 Mini 3.8B

Todos los Macs de Intel y Apple Silicon

Phi-3 Mini 4K Instruct Kappa-3 Phi Abliterated (Uncensored)

Modelos Basados en Google Gemma

Todos los Macs de Intel y Apple Silicon

Gemma 2B IT 💎Gemma 1.1 2B IT 💎

Modelos Basados en Mixtral 8x7B

Macs Apple Silicon con al menos 32GB de RAM

Mixtral-8x7B-Instruct-v0.1 Dolphin 2.6 Mixtral 8x7B 🐬Nous Hermes 2 Mixtral 8x7B DPO ☤

Modelos Basados en Llama 33B

Macs Apple Silicon con al menos 24GB de RAM

WizardLM 33B v1.0 (Uncensored)

Modelos Basados en Llama 2 13B

Macs Apple Silicon con al menos 16GB de RAM

Wizard LM 13B Spicyboros 13B 🌶️Synthia 13B 1.2 XWin-LM-13B Mythomax L2 13B

Modelos Basados en CodeLlama 13B

Macs Apple Silicon con al menos 16GB de RAM

WhiteRabbitNeo-13B-v1

Modelos Basados en Llama 2 7B

Todos los Macs de Intel y Apple Silicon

airoboros-l2-7b-3.0 Spicyboros 7b 2.2 🌶️Xwin-LM-7B v0.1

Modelos Basados en Solar 10.7B

Macs Apple Silicon con al menos 16GB de RAM

Nous-Hermes-2-SOLAR-10.7B ☤

Modelos Basados en Phi-2 3B

Todos los Macs de Intel y Apple Silicon

Phi-2 Orange 🍊Phi-2 Orange Version 2 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬

Modelos Basados en StableLM 3B

Todos los Macs de Intel y Apple Silicon

StableLM Zephyr 3B 🪁

Modelos Basados en Yi 6B

Todos los Macs de Intel y Apple Silicon

Yi 6B Chat 🇨🇳

Modelos Basados en Yi 34B

Macs Apple Silicon con al menos 24GB de RAM

Yi 34B Chat 🇨🇳

¿Cómo podemos ayudar?

Tanto si tienes una pregunta como si te enfrentas a un problema con Private LLM, estamos aquí para ayudarte. Solo deja tus detalles en el formulario de abajo, y te responderemos tan pronto como podamos.