在您的 iPhone、iPad 和 Mac 上试用 Private LLM 2

Bonsai 2 27B 在 iPhone 17 Pro 上运行

Private LLM 2 运行了 其他本地 AI 应用认为不可能在 iPhone 上运行 的模型。Ternary Bonsai 2 27B，一款 2-bit 模型，可以在 iPhone 17 Pro 上运行。

Private LLM 2 的新功能

• 使用工具的模型

  支持工具调用的模型可以在您的设备上运行 JavaScript，并且该工具默认开启。网页搜索和页面抓取为可选功能，由您自行开启。当前 Private LLM 应用中不存在这些功能。

  

• 与文档对话

  在发送第一条消息之前附加 PDF、纯文本或 Markdown 文件，Private LLM 2 会在您的设备上为其建立索引并进行搜索。文档对话需要支持工具的模型。

  

• 附加照片和音频

  您可以将照片和图像附加到视觉模型，本测试版中的视觉模型包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，Gemma 4 模型还接受音频文件。部分较大的模型需要内存更大的设备才能使用此功能。

  

• 新模型等您试用

  Gemma 4 和 Qwen3.5 是 Gemma 和 Qwen 的新一代模型。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 是新模型系列，其中 Bonsai 包括一个 27B 三元模型。在受支持的设备上，Gemma 4 借助投机解码生成速度更快；对于具备推理能力的模型，您可以设置五个级别的推理强度。测试期间模型阵容可能会变化。

  

• 网页工具在您开启前保持关闭

  网页工具默认关闭，原因很简单：不发出任何信息就无法进行网页搜索。当您开启这些功能时，您的搜索查询或页面地址会离开您的设备。首次使用时，由您选择其发送位置。自动模式会将其发送至第三方搜索服务提供商，并以从您的设备直接搜索作为后备方式。仅设备端模式在进行网页搜索和页面抓取时跳过该服务提供商，但仍会连接搜索引擎和网站本身。

  

如何获取测试版

1. 从 App Store 获取 Private LLM；若您已拥有，请进行更新。
2. 前往 Settings > About > Private LLM 2。该链接会显示在 iOS 26、iPadOS 26，以及 Apple Silicon Mac 上的 macOS 26 中。
3. 轻点 Private LLM 2 以打开 TestFlight，然后安装测试版。

Private LLM 2 是一个独立应用。它会与当前的 Private LLM 应用并排安装，您的聊天记录和模型不会迁移过来，因此请准备重新下载模型。

Private LLM 2 是面向所有 Private LLM 用户的免费升级。