![](/app-icons/private-llm-2-192.png)![](/app-icons/private-llm-2-dark-192.png)

# 在您的 iPhone、iPad 和 Mac 上試用 Private LLM 2

模型仍然在你的裝置上運行。現在它們接受多模態輸入，並使用裝置上的 RAG 搜尋你的文件。

如要搶先體驗，請開啟 Private LLM 應用程式，然後前往 Settings > About。

[![從 App Store 下載](/app-store/download-badge/zh-TW/download.svg)![從 App Store 下載](/app-store/download-badge/zh-TW/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

在配備 A14 晶片或更新型號的 iPhone 或 iPad 上，需要 iOS 26 或 iPadOS 26；在配備 Apple Silicon 的 Mac 上，需要 macOS 26。Ternary Bonsai 2 27B 需要配備 12 GB 記憶體的 iPhone。

![一段 Private LLM 2 對話，其中 Ternary Bonsai 2 27B 回答問題](/_astro/iphone-hero-27b-light.BgwTPMdX_Z1jkYHh.png)![一段 Private LLM 2 對話，其中 Ternary Bonsai 2 27B 回答問題](/_astro/iphone-hero-27b-dark.8yZz_2di_Z4geK6.png)

## Bonsai 2 27B 在 iPhone 17 Pro 上運行

Private LLM 2 運行[其他本機 AI App 認為不可能在 iPhone 上運行](https://x.com/private_llm/status/2101769928252473488)的模型。Ternary Bonsai 2 27B，一個 2-bit 模型，在 iPhone 17 Pro 上運行。

## Private LLM 2 的新功能

-   ### 可使用工具的模型
    
    支援工具調用的模型可以在你的裝置上執行 JavaScript，而該工具預設開啟。網頁搜尋和頁面擷取是選用功能，由你自行開啟。目前的 Private LLM app 中沒有這些功能。
    
    ![一段 Private LLM 2 對話，其中模型呼叫工具並以結果回答](/_astro/mac-tools-light.4xTKZF_3_16O6Mg.png)![一段 Private LLM 2 對話，其中模型呼叫工具並以結果回答](/_astro/mac-tools-dark.DhU8M6HE_2lSdSj.png)
    
-   ### 與您的文件對話
    
    在第一條訊息前附加 PDF、純文字或 Markdown 檔案，Private LLM 2 會在您的裝置上為該檔案建立索引並進行搜尋。文件對話需要使用支援工具的模型。
    
    ![一份附加至 Private LLM 2 對話的 PDF，答案取自該文件](/_astro/mac-documents-light.yfHl5tmC_ZSmpUe.png)![一份附加至 Private LLM 2 對話的 PDF，答案取自該文件](/_astro/mac-documents-dark.B06fH1UG_ZjCuVi.png)
    
-   ### 附加相片和音訊
    
    您可以將相片和圖片附加至視覺模型，在此測試版中包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，而 Gemma 4 模型亦接受音訊檔案。部分較大模型需要配備更多記憶體的裝置才能使用此功能。
    
    ![一張附加至 Private LLM 2 對話的相片，視覺模型正在描述它](/_astro/iphone-media-light.BYAsDGMI_ZulpPq.png)![一張附加至 Private LLM 2 對話的相片，視覺模型正在描述它](/_astro/iphone-media-dark.CNNqezmt_1s0ixd.png)
    
-   ### 可試用的新模型
    
    Gemma 4 和 Qwen3.5 分別是 Gemma 和 Qwen 的新一代模型。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 則是全新系列，其中 Bonsai 包含一個 27B 三元模型。在支援的裝置上，Gemma 4 可透過推測解碼加快生成速度；而在具有推理能力的模型上，您可以設定五個等級的推理強度。測試期間模型陣容可能會有所變動。
    
    ![Private LLM 2 模型清單，推薦模型排前，其後為 Gemma 4 和 Qwen3.5 部分。](/_astro/iphone-models-light.B7vB--1a_Zkesye.png)![Private LLM 2 模型清單，推薦模型排前，其後為 Gemma 4 和 Qwen3.5 部分。](/_astro/iphone-models-dark.BuMAzdBV_ZPFpF4.png)
    
-   ### 網頁工具在您開啟前保持關閉
    
    網頁工具預設關閉，原因很簡單：網頁搜尋必須向外傳送資料才能進行。當你開啟這些工具時，你的搜尋查詢或頁面網址會離開你的裝置。第一次使用時，你選擇資料的去向。自動會將資料傳送給第三方搜尋提供者，並以從你的裝置直接搜尋作為後備方案。僅限裝置模式會在網頁搜尋和頁面擷取時略過提供者，但仍會聯絡搜尋引擎和網站本身。
    
    ![首次開啟網頁存取時，用於設定網頁搜尋去向的 Private LLM 2 選項](/_astro/iphone-web-privacy-light.BGfgPWgx_ZA045X.png)![首次開啟網頁存取時，用於設定網頁搜尋去向的 Private LLM 2 選項](/_astro/iphone-web-privacy-dark.BSZsuhE-_k4S7S.png)
    

## 如何取得 Beta 版

1.  從 App Store 取得 Private LLM，或如你已擁有，更新即可。
2.  前往 Settings > About > Private LLM 2。連結會在 iOS 26、iPadOS 26，以及配備 Apple Silicon 的 Mac 上的 macOS 26 顯示。
3.  點按 Private LLM 2 以開啟 TestFlight，然後安裝測試版。

Private LLM 2 是獨立 App。它會與現有的 Private LLM App 並存安裝，而您的聊天記錄和模型不會轉移，因此請準備重新下載模型。

Private LLM 2 是每位 Private LLM 擁有者的免費升級。

[![從 App Store 下載](/app-store/download-badge/zh-TW/download.svg)![從 App Store 下載](/app-store/download-badge/zh-TW/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

## 告訴我們哪裏出錯

這是測試版，很可能會有些地方出錯。您可以透過 TestFlight 傳送意見回饋並附上螢幕截圖，或在 Discord 上與我們交流。

[Discord](/discord)