在您的 iPhone、iPad 和 Mac 上試用 Private LLM 2

Bonsai 2 27B 在 iPhone 17 Pro 上運行

Private LLM 2 運行其他本機 AI App 認為不可能在 iPhone 上運行的模型。Ternary Bonsai 2 27B，一個 2-bit 模型，在 iPhone 17 Pro 上運行。

Private LLM 2 的新功能

• 可使用工具的模型

  支援工具調用的模型可以在你的裝置上執行 JavaScript，而該工具預設開啟。網頁搜尋和頁面擷取是選用功能，由你自行開啟。目前的 Private LLM app 中沒有這些功能。

  

• 與您的文件對話

  在第一條訊息前附加 PDF、純文字或 Markdown 檔案，Private LLM 2 會在您的裝置上為該檔案建立索引並進行搜尋。文件對話需要使用支援工具的模型。

  

• 附加相片和音訊

  您可以將相片和圖片附加至視覺模型，在此測試版中包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，而 Gemma 4 模型亦接受音訊檔案。部分較大模型需要配備更多記憶體的裝置才能使用此功能。

  

• 可試用的新模型

  Gemma 4 和 Qwen3.5 分別是 Gemma 和 Qwen 的新一代模型。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 則是全新系列，其中 Bonsai 包含一個 27B 三元模型。在支援的裝置上，Gemma 4 可透過推測解碼加快生成速度；而在具有推理能力的模型上，您可以設定五個等級的推理強度。測試期間模型陣容可能會有所變動。

  

• 網頁工具在您開啟前保持關閉

  網頁工具預設關閉，原因很簡單：網頁搜尋必須向外傳送資料才能進行。當你開啟這些工具時，你的搜尋查詢或頁面網址會離開你的裝置。第一次使用時，你選擇資料的去向。自動會將資料傳送給第三方搜尋提供者，並以從你的裝置直接搜尋作為後備方案。僅限裝置模式會在網頁搜尋和頁面擷取時略過提供者，但仍會聯絡搜尋引擎和網站本身。

  

如何取得 Beta 版

1. 從 App Store 取得 Private LLM，或如你已擁有，更新即可。
2. 前往 Settings > About > Private LLM 2。連結會在 iOS 26、iPadOS 26，以及配備 Apple Silicon 的 Mac 上的 macOS 26 顯示。
3. 點按 Private LLM 2 以開啟 TestFlight，然後安裝測試版。

Private LLM 2 是獨立 App。它會與現有的 Private LLM App 並存安裝，而您的聊天記錄和模型不會轉移，因此請準備重新下載模型。

Private LLM 2 是每位 Private LLM 擁有者的免費升級。