在您的 iPhone、iPad 和 Mac 上試用 Private LLM 2

Bonsai 2 27B 可在 iPhone 17 Pro 上執行

Private LLM 2 運行那些 其他本地 AI 應用程式認為不可能在 iPhone 上運行 的模型。Ternary Bonsai 2 27B，一個 2 位元模型，在 iPhone 17 Pro 上運行。

Private LLM 2 的新功能

• 可使用工具的模型

  支援工具呼叫的模型可以在你的裝置上執行 JavaScript，且該工具預設為開啟。網頁搜尋和網頁擷取為選用功能，你需要自行開啟。這些功能在目前的 Private LLM app 中均不存在。

  

• 與您的文件聊天

  在第一則訊息前附加 PDF、純文字或 Markdown 檔案，Private LLM 2 會在您的裝置上為其建立索引並進行搜尋。文件聊天需要支援工具的模型。

  

• 附加照片與音訊

  您可以將照片與圖片附加到視覺模型，此測試版中的視覺模型包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，且 Gemma 4 模型也接受音訊檔案。部分較大的模型需要配備更多記憶體的裝置才能使用此功能。

  

• 可試用的新模型

  Gemma 4 和 Qwen3.5 是 Gemma 與 Qwen 的新世代。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 是新的模型系列，其中 Bonsai 包含 27B 三元模型。在支援的裝置上，Gemma 4 可透過推測解碼更快生成，而對於會進行推理的模型，您可以設定五個等級的推理強度。測試期間模型陣容可能變動。

  

• 網頁工具在您開啟之前保持關閉

  網頁工具預設為關閉，原因很簡單：網頁搜尋必然需要將某些內容傳送出去。當你開啟這些工具時，你的搜尋查詢或頁面網址會離開你的裝置。第一次使用時，你可以選擇它傳送到哪裡。自動模式會將其傳送至第三方搜尋供應商，並以從你的裝置直接搜尋作為備援。僅限裝置端模式在網頁搜尋和網頁擷取時會略過供應商，但仍會聯繫搜尋引擎和網站本身。

  

如何取得測試版

1. 請從 App Store 下載 Private LLM；若你已擁有，請直接更新。
2. 前往 Settings > About > Private LLM 2。此連結會顯示於 iOS 26、iPadOS 26，以及 Apple Silicon Mac 上的 macOS 26。
3. 點一下 Private LLM 2 開啟 TestFlight，然後安裝測試版。

Private LLM 2 是獨立的 App。它會與目前的 Private LLM App 並存安裝，您的聊天記錄和模型不會沿用，因此請準備重新下載模型。

Private LLM 2 是每位 Private LLM 擁有者的免費升級。