![](/app-icons/private-llm-2-192.png)![](/app-icons/private-llm-2-dark-192.png)

# 在您的 iPhone、iPad 和 Mac 上試用 Private LLM 2

模型依然在你的裝置上執行。現在它們接受多模態輸入，並透過裝置端 RAG 搜尋你的文件。

若要搶先體驗，請開啟 Private LLM 應用程式，然後前往「Settings」>「About」。

[![從 App Store 下載](/app-store/download-badge/zh-TW/download.svg)![從 App Store 下載](/app-store/download-badge/zh-TW/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

需要 iOS 26 或 iPadOS 26，且裝置為配備 A14 晶片或後續版本的 iPhone 或 iPad；或者需要 macOS 26，且 Mac 配備 Apple Silicon。Ternary Bonsai 2 27B 需要配備 12 GB 記憶體的 iPhone。

![一個 Private LLM 2 對話，其中 Ternary Bonsai 2 27B 回答問題](/_astro/iphone-hero-27b-light.BgwTPMdX_Z1jkYHh.png)![一個 Private LLM 2 對話，其中 Ternary Bonsai 2 27B 回答問題](/_astro/iphone-hero-27b-dark.8yZz_2di_Z4geK6.png)

## Bonsai 2 27B 可在 iPhone 17 Pro 上執行

Private LLM 2 運行那些 [其他本地 AI 應用程式認為不可能在 iPhone 上運行](https://x.com/private_llm/status/2101769928252473488) 的模型。Ternary Bonsai 2 27B，一個 2 位元模型，在 iPhone 17 Pro 上運行。

## Private LLM 2 的新功能

-   ### 可使用工具的模型
    
    支援工具呼叫的模型可以在你的裝置上執行 JavaScript，且該工具預設為開啟。網頁搜尋和網頁擷取為選用功能，你需要自行開啟。這些功能在目前的 Private LLM app 中均不存在。
    
    ![一個 Private LLM 2 對話，其中模型呼叫工具並以其結果回答](/_astro/mac-tools-light.4xTKZF_3_16O6Mg.png)![一個 Private LLM 2 對話，其中模型呼叫工具並以其結果回答](/_astro/mac-tools-dark.DhU8M6HE_2lSdSj.png)
    
-   ### 與您的文件聊天
    
    在第一則訊息前附加 PDF、純文字或 Markdown 檔案，Private LLM 2 會在您的裝置上為其建立索引並進行搜尋。文件聊天需要支援工具的模型。
    
    ![一個附加到 Private LLM 2 對話的 PDF，答案取自該文件](/_astro/mac-documents-light.yfHl5tmC_ZSmpUe.png)![一個附加到 Private LLM 2 對話的 PDF，答案取自該文件](/_astro/mac-documents-dark.B06fH1UG_ZjCuVi.png)
    
-   ### 附加照片與音訊
    
    您可以將照片與圖片附加到視覺模型，此測試版中的視覺模型包括 Gemma 4、Qwen3.5、Bonsai 和 North Micro Vision，且 Gemma 4 模型也接受音訊檔案。部分較大的模型需要配備更多記憶體的裝置才能使用此功能。
    
    ![一張附加到 Private LLM 2 對話的照片，由視覺模型描述](/_astro/iphone-media-light.BYAsDGMI_ZulpPq.png)![一張附加到 Private LLM 2 對話的照片，由視覺模型描述](/_astro/iphone-media-dark.CNNqezmt_1s0ixd.png)
    
-   ### 可試用的新模型
    
    Gemma 4 和 Qwen3.5 是 Gemma 與 Qwen 的新世代。Granite 4.1、Bonsai、MiniCPM5、North 和 Lizzy 是新的模型系列，其中 Bonsai 包含 27B 三元模型。在支援的裝置上，Gemma 4 可透過推測解碼更快生成，而對於會進行推理的模型，您可以設定五個等級的推理強度。測試期間模型陣容可能變動。
    
    ![「Private LLM 2」模型列表，建議模型優先，接著是 Gemma 4 和 Qwen3.5 區段。](/_astro/iphone-models-light.B7vB--1a_Zkesye.png)![「Private LLM 2」模型列表，建議模型優先，接著是 Gemma 4 和 Qwen3.5 區段。](/_astro/iphone-models-dark.BuMAzdBV_ZPFpF4.png)
    
-   ### 網頁工具在您開啟之前保持關閉
    
    網頁工具預設為關閉，原因很簡單：網頁搜尋必然需要將某些內容傳送出去。當你開啟這些工具時，你的搜尋查詢或頁面網址會離開你的裝置。第一次使用時，你可以選擇它傳送到哪裡。自動模式會將其傳送至第三方搜尋供應商，並以從你的裝置直接搜尋作為備援。僅限裝置端模式在網頁搜尋和網頁擷取時會略過供應商，但仍會聯繫搜尋引擎和網站本身。
    
    ![在首次開啟網頁存取時，設定網頁搜尋去向的 Private LLM 2 選項](/_astro/iphone-web-privacy-light.BGfgPWgx_ZA045X.png)![在首次開啟網頁存取時，設定網頁搜尋去向的 Private LLM 2 選項](/_astro/iphone-web-privacy-dark.BSZsuhE-_k4S7S.png)
    

## 如何取得測試版

1.  請從 App Store 下載 Private LLM；若你已擁有，請直接更新。
2.  前往 Settings > About > Private LLM 2。此連結會顯示於 iOS 26、iPadOS 26，以及 Apple Silicon Mac 上的 macOS 26。
3.  點一下 Private LLM 2 開啟 TestFlight，然後安裝測試版。

Private LLM 2 是獨立的 App。它會與目前的 Private LLM App 並存安裝，您的聊天記錄和模型不會沿用，因此請準備重新下載模型。

Private LLM 2 是每位 Private LLM 擁有者的免費升級。

[![從 App Store 下載](/app-store/download-badge/zh-TW/download.svg)![從 App Store 下載](/app-store/download-badge/zh-TW/download-dark.svg)](https://apps.apple.com/app/apple-store/id6448106860?pt=96139298&ct=pllm_beta_page&mt=8)

## 告訴我們哪裡出問題

這是測試版，有些東西可能會出錯。請透過 TestFlight 傳送意見回饋，您可以在其中附上螢幕截圖，或到 Discord 跟我們聊聊。

[Discord](/discord)