![](/app-icons/private-llm-2-192.png)![](/app-icons/private-llm-2-dark-192.png)

# 在您的 iPhone、iPad 和 Mac 上试用 Private LLM 2

模型仍然在您的设备上运行。现在它们可以接收多模态输入，并通过设备端 RAG 搜索您的文档。

如需抢先体验，请打开 Private LLM 应用并前往 Settings > About。

[![从 App Store 下载](/app-store/download-badge/zh-CN/download.svg)![从 App Store 下载](/app-store/download-badge/zh-CN/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

需要在配备 A14 或更新芯片的 iPhone 或 iPad 上运行 iOS 26 或 iPadOS 26，或在配备 Apple Silicon 的 Mac 上运行 macOS 26。Ternary Bonsai 2 27B 需要配备 12 GB 内存的 iPhone。

![一个 Private LLM 2 对话，其中 Ternary Bonsai 2 27B 回答问题](/_astro/iphone-hero-27b-light.BgwTPMdX_Z1jkYHh.png)![一个 Private LLM 2 对话，其中 Ternary Bonsai 2 27B 回答问题](/_astro/iphone-hero-27b-dark.8yZz_2di_Z4geK6.png)

## Bonsai 2 27B 在 iPhone 17 Pro 上运行

Private LLM 2 运行了 [其他本地 AI 应用认为不可能在 iPhone 上运行](https://x.com/private_llm/status/2101769928252473488) 的模型。Ternary Bonsai 2 27B，一款 2-bit 模型，可以在 iPhone 17 Pro 上运行。

## Private LLM 2 的新功能

-   ### 使用工具的模型
    
    支持工具调用的模型可以在您的设备上运行 JavaScript，并且该工具默认开启。网页搜索和页面抓取为可选功能，由您自行开启。当前 Private LLM 应用中不存在这些功能。
    
    ![一个 Private LLM 2 对话，其中模型调用工具并利用其结果进行回答](/_astro/mac-tools-light.4xTKZF_3_16O6Mg.png)![一个 Private LLM 2 对话，其中模型调用工具并利用其结果进行回答](/_astro/mac-tools-dark.DhU8M6HE_2lSdSj.png)
    
-   ### 与文档对话
    
    在发送第一条消息之前附加 PDF、纯文本或 Markdown 文件，Private LLM 2 会在您的设备上为其建立索引并进行搜索。文档对话需要支持工具的模型。
    
    ![一个附加到 Private LLM 2 对话中的 PDF，答案来自该文档](/_astro/mac-documents-light.yfHl5tmC_ZSmpUe.png)![一个附加到 Private LLM 2 对话中的 PDF，答案来自该文档](/_astro/mac-documents-dark.B06fH1UG_ZjCuVi.png)
    
-   ### 附加照片和音频
    
    您可以将照片和图像附加到视觉模型，本测试版中的视觉模型包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，Gemma 4 模型还接受音频文件。部分较大的模型需要内存更大的设备才能使用此功能。
    
    ![一张附加到 Private LLM 2 对话中的照片，视觉模型正在对其进行描述](/_astro/iphone-media-light.BYAsDGMI_ZulpPq.png)![一张附加到 Private LLM 2 对话中的照片，视觉模型正在对其进行描述](/_astro/iphone-media-dark.CNNqezmt_1s0ixd.png)
    
-   ### 新模型等您试用
    
    Gemma 4 和 Qwen3.5 是 Gemma 和 Qwen 的新一代模型。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 是新模型系列，其中 Bonsai 包括一个 27B 三元模型。在受支持的设备上，Gemma 4 借助投机解码生成速度更快；对于具备推理能力的模型，您可以设置五个级别的推理强度。测试期间模型阵容可能会变化。
    
    ![Private LLM 2 模型列表，推荐模型优先，之后是 Gemma 4 和 Qwen3.5 部分。](/_astro/iphone-models-light.B7vB--1a_Zkesye.png)![Private LLM 2 模型列表，推荐模型优先，之后是 Gemma 4 和 Qwen3.5 部分。](/_astro/iphone-models-dark.BuMAzdBV_ZPFpF4.png)
    
-   ### 网页工具在您开启前保持关闭
    
    网页工具默认关闭，原因很简单：不发出任何信息就无法进行网页搜索。当您开启这些功能时，您的搜索查询或页面地址会离开您的设备。首次使用时，由您选择其发送位置。自动模式会将其发送至第三方搜索服务提供商，并以从您的设备直接搜索作为后备方式。仅设备端模式在进行网页搜索和页面抓取时跳过该服务提供商，但仍会连接搜索引擎和网站本身。
    
    ![Private LLM 2 中用于在首次开启网页访问时设置网页搜索去向的选项](/_astro/iphone-web-privacy-light.BGfgPWgx_ZA045X.png)![Private LLM 2 中用于在首次开启网页访问时设置网页搜索去向的选项](/_astro/iphone-web-privacy-dark.BSZsuhE-_k4S7S.png)
    

## 如何获取测试版

1.  从 App Store 获取 Private LLM；若您已拥有，请进行更新。
2.  前往 Settings > About > Private LLM 2。该链接会显示在 iOS 26、iPadOS 26，以及 Apple Silicon Mac 上的 macOS 26 中。
3.  轻点 Private LLM 2 以打开 TestFlight，然后安装测试版。

Private LLM 2 是一个独立应用。它会与当前的 Private LLM 应用并排安装，您的聊天记录和模型不会迁移过来，因此请准备重新下载模型。

Private LLM 2 是面向所有 Private LLM 用户的免费升级。

[![从 App Store 下载](/app-store/download-badge/zh-CN/download.svg)![从 App Store 下载](/app-store/download-badge/zh-CN/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

## 告诉我们出了什么问题

这是一个测试版，很可能会出现一些问题。您可以通过 TestFlight 发送反馈并附上截图，或在 Discord 上与我们交流。

[Discord](/discord)