Private LLM 适用于 iPhone、iPad 和 Mac 的私密、无审查 AI 聊天

无云端，无跟踪，无登录。

Discord

4.5App Store 上的 1,129 个评分

在您的 iPhone、iPad 和 Mac 上离线运行 AI

Private LLM 完全在您的 iPhone、iPad 或 Mac 上运行。您的对话永远不会离开设备，首次下载模型后无需联网。免账号、无追踪、零日志。一次购买即可在您拥有的所有 Apple 设备及家人共享群组中解锁该应用。

显示Private LLM应用程序界面的iPhone屏幕特写，输入文本提示的聊天界面，突出该应用的隐私保护和离线功能

本地运行 DeepSeek R1、Llama 3.3、Qwen3 和 Gemma 3

Private LLM 直接在您的 Apple 设备上运行领先的开源模型 - DeepSeek R1 Distill、Llama 3.3 70B、Qwen3 4B、Phi 4、Google Gemma 3 等。所有对话均保留在设备端，每个模型都经过内部量化处理，以在您的硬件上呈现最佳质量。

为您的设备寻找最佳开源LLM

Private LLM应用程序的iPhone截图，显示离线使用的大型语言模型（LLM）列表，展示多种模型名称和描述，强调其隐私和离线功能。

Siri 和 Apple 快捷指令中的本地 AI - 无需代码

Private LLM 直接接入 Siri 和快捷指令应用。构建 AI 驱动的工作流，用于总结文本、生成文章，或将回复传输到支持 x-callback-url 规范的 70 多款应用中。无需代码。

查看用户为 Private LLM 构建的 Apple 快捷指令

显示Private LLM应用程序与Apple快捷方式集成的iPhone界面，展示个性化AI交互的无缝用户体验

一次购买，无需订阅 - 支持六人家人共享

摆脱订阅的束缚，选择更聪明的Private LLM。一笔购买解锁iPhone、iPad和Mac上的应用，并支持家庭共享功能，最多可供六位亲属使用。这种方法不仅简化了访问，还提升了投资价值，让数字隐私和智能普及于您的家庭中。

macOS上Private LLM界面的截图，显示用户在文本输入字段中输入提示，准备接收本地语言模型的即时离线响应

内置于 macOS 的 AI 写作工具

在任何 macOS 应用中选择任意文本，右键点击，Private LLM 即可对其进行重写、总结或纠错 - 完全在设备端运行。支持英语和主要西欧语言。

由两名工程师打造，而非风投机构

Private LLM 由欧盟的两名工程师打造 - 独立自持，无风投融资，没有增长黑客路线图。我们是 App Store 上唯一采用 OmniQuant 和 GPTQ 量化的应用，其输出质量显著优于 Ollama 和 LM Studio 等 MLX 和 llama.cpp 包装应用所使用的 RTN 量化。我们只对用户负责，不对投资者负责 - 这就是为什么您的数据始终保留在设备端，并且永远如此。

来自 App Store

来自 iPhone 和 Mac 用户的真实评论

“This is a private AI app created by developers performing constant updates and not charging a subscription. That is rare nowadays! Bravo, looking forward to the updates as this continues to improve!”

🇺🇸8parental8 · App Store 评论

阅读 App Store 评论

OmniQuant 和 GPTQ 量化：更佳输出，更少内存

Private LLM 使用 OmniQuant 和 GPTQ 量化。当 LLM 被量化用于设备端推理时，异常权重值会损害文本生成质量。OmniQuant 通过基于优化的可学习裁剪机制来调节异常权重，从而将量化误差降至最低。GPTQ 使用近似二阶 (Hessian) 信息来最小化最重要权重上的重建误差。LM Studio 等基于 MLX 的应用所使用的仿射 RTN 量化，以及 Ollama 等基于 llama.cpp 的应用所使用的分块 RTN 变体，都跳过了这种逐权重的优化 - 这就是为什么这些应用在相同的 Apple 硬件上产生的输出质量较低。我们不断探索先进的量化方法，这是建立在第三方推理引擎上的包装应用无法承担的工作。OmniQuant 和 GPTQ 配合针对特定模型优化的 Metal 内核，让 Private LLM 能够在 Apple 硬件上提供既快速又高质量的文本生成。

Private LLM与Ollama比较