跳至內容

Private LLM 適用於 iPhone、iPad 與 Mac 的私密、未審查 AI 對話

無雲端、無追蹤、無登入。
從 App Store 下載Discord

在您的 iPhone、iPad 與 Mac 上離線執行 AI

Private LLM 完全在您的 iPhone、iPad 或 Mac 上執行。您的對話永遠不會離開裝置,且首次下載模型後無需連接網際網路。無需帳號、無追蹤、無紀錄。一次購買即可解鎖您所有 Apple 裝置及「家人共享」群組中的 App 使用權。

在地化執行 DeepSeek R1、Llama 3.3、Qwen3 與 Gemma 3

Private LLM 直接在您的 Apple 裝置上執行領先的開放權重模型 — DeepSeek R1 Distill、Llama 3.3 70B、Qwen3 4B、Phi 4、Google Gemma 3 等。每場對話都保留在裝置上,且每個模型皆在內部進行量化,以確保您的硬體能獲得最佳品質。

Siri 與 Apple Shortcuts 中的在地化 AI — 無需程式碼

Private LLM 直接整合至 Siri 與「捷徑」App。建立 AI 驅動的工作流程來摘要文字、產生寫作內容,或將回應傳送至任何支援 x-callback-url 規格 的 70 多款 App。無需程式碼。

一次購買,無需訂閱 — 支援六人「家人共享」

放棄訂閱,選擇 Private LLM,做出更聰明的選擇。單次購買即可解鎖所有 Apple 平台(iPhone、iPad 與 Mac)上的 App,並支援最多六位親友的「家人共享」。此方式不僅簡化了存取流程,更提升了您的投資價值,讓數位隱私與智慧在您的家庭中普及。

內建於 macOS 的 AI 寫作工具

在任何 macOS App 中選取文字,按右鍵即可讓 Private LLM 進行改寫、摘要或校對 — 完全在裝置上完成。支援英文與主要西歐語言。
顯示 macOS 系統全域服務選單中 Private LLM 整合的截圖。

由兩位工程師打造,非創投驅動

Private LLM 由兩位歐盟工程師打造 — 自力更生、無創投資金、無成長駭客路線圖。我們是 App Store 上唯一具備 OmniQuant 與 GPTQ 量化技術的 App,其產出品質明顯優於 MLX 及 Ollama 與 LM Studio 等 llama.cpp 包裝 App 所使用的 RTN 量化。我們對使用者負責,而非投資人 — 這就是為什麼您的資料始終保留在裝置上。
一部正在執行 Private LLM app 的 iPhone,當中裝置端 DeepSeek R1 Distill Llama 8B 模型正在回答一條關於為何獨立軟件工作室勝過 VC 資助免費產品的問題。

來自 App Store

來自 iPhone 與 Mac 使用者的真實評論

OmniQuant 與 GPTQ 量化:更佳產出,更少記憶體

Private LLM 使用 OmniQuant 與 GPTQ 量化。當 LLM 為裝置端推論進行量化時,離群權重值會損害文字生成品質。OmniQuant 透過基於最佳化的可學習裁剪機制來調節離群權重,從而將量化誤差降至最低。GPTQ 使用近似二階 (Hessian) 資訊來最小化關鍵權重的重建誤差。基於 MLX 的 App(如 LM Studio)所使用的仿射 RTN 量化,以及基於 llama.cpp 的 App(如 Ollama)所使用的區塊式 RTN 變體,皆跳過了此類權重級的最佳化 — 這就是為什麼這些 App 在相同的 Apple 硬體上產出的品質較低。我們持續探索先進的量化方法,這是建立在第三方推論引擎上的包裝 App 無法承擔的工作。OmniQuant 與 GPTQ 搭配針對模型最佳化的 Metal 核心,讓 Private LLM 能在 Apple 硬體上提供既快速又高品質的文字生成。

尋找適合你的模型

瀏覽 Private LLM 可執行的所有開源模型:按裝置、RAM 和使用情境篩選,或讓選擇器推薦一個。

我們能提供什麼協助?

無論您是有疑問還是遇到 Private LLM 的問題,我們都樂意為您提供協助。只需在下方表格填寫您的詳細資訊,我們會儘快回覆您。

完成驗證即可啟用傳送按鈕。