Private LLM logo

Private LLM 適用於 iPhone、iPad 與 Mac 的私密、未審查 AI 對話

無雲端、無追蹤、無登入。

在您的 iPhone、iPad 與 Mac 上離線執行 AI

Private LLM 完全在您的 iPhone、iPad 或 Mac 上執行。您的對話永遠不會離開裝置,且首次下載模型後無需連接網際網路。無需帳號、無追蹤、無紀錄。一次購買即可解鎖您所有 Apple 裝置及「家人共享」群組中的 App 使用權。
一張 iPhone 螢幕的近距離特寫,顯示 Private LLM App 的介面,使用者在對話介面中輸入文字提示,突顯該 App 能夠在裝置上在地化執行複雜語言模型,以提升隱私與離線功能

在地化執行 DeepSeek R1、Llama 3.3、Qwen3 與 Gemma 3

Private LLM 直接在您的 Apple 裝置上執行領先的開放權重模型 — DeepSeek R1 Distill、Llama 3.3 70B、Qwen3 4B、Phi 4、Google Gemma 3 等。每場對話都保留在裝置上,且每個模型皆在內部進行量化,以確保您的硬體能獲得最佳品質。
iPhone 上 Private LLM App 的截圖,顯示使用者友善的介面,列出可供離線使用的下載式大型語言模型 (LLM),展示多種模型名稱與說明,強調該 App 的個人化 AI 體驗能力,同時突顯其隱私與離線功能。

Siri 與 Apple Shortcuts 中的在地化 AI — 無需程式碼

Private LLM 直接整合至 Siri 與「捷徑」App。建立 AI 驅動的工作流程來摘要文字、產生寫作內容,或將回應傳送至任何支援 x-callback-url 規格 的 70 多款 App。無需程式碼。
一台顯示 Private LLM App 介面與 Apple 捷徑整合的 iPhone,展示在 iOS 上個人化 AI 互動的流暢使用者體驗

一次購買,無需訂閱 — 支援六人「家人共享」

放棄訂閱,選擇 Private LLM,做出更聰明的選擇。單次購買即可解鎖所有 Apple 平台(iPhone、iPad 與 Mac)上的 App,並支援最多六位親友的「家人共享」。此方式不僅簡化了存取流程,更提升了您的投資價值,讓數位隱私與智慧在您的家庭中普及。
macOS 上 Private LLM 介面的截圖,顯示使用者在 App 的文字輸入欄位中輸入提示,準備接收來自在地化語言模型的即時離線回應

內建於 macOS 的 AI 寫作工具

在任何 macOS App 中選取文字,按右鍵即可讓 Private LLM 進行改寫、摘要或校對 — 完全在裝置上完成。支援英文與主要西歐語言。
顯示 macOS 系統全域服務選單中 Private LLM 整合的截圖。

由兩位工程師打造,非創投驅動

Private LLM 由兩位歐盟工程師打造 — 自力更生、無創投資金、無成長駭客路線圖。我們是 App Store 上唯一具備 OmniQuant 與 GPTQ 量化技術的 App,其產出品質明顯優於 MLX 及 Ollama 與 LM Studio 等 llama.cpp 包裝 App 所使用的 RTN 量化。我們對使用者負責,而非投資人 — 這就是為什麼您的資料始終保留在裝置上。
一台顯示 Private LLM App 介面與 Apple 捷徑整合的 iPhone,展示在 iOS 上個人化 AI 互動的流暢使用者體驗

來自 App Store

來自 iPhone 與 Mac 使用者的真實評論

OmniQuant 與 GPTQ 量化:更佳產出,更少記憶體

Private LLM 使用 OmniQuant 與 GPTQ 量化。當 LLM 為裝置端推論進行量化時,離群權重值會損害文字生成品質。OmniQuant 透過基於最佳化的可學習裁剪機制來調節離群權重,從而將量化誤差降至最低。GPTQ 使用近似二階 (Hessian) 資訊來最小化關鍵權重的重建誤差。基於 MLX 的 App(如 LM Studio)所使用的仿射 RTN 量化,以及基於 llama.cpp 的 App(如 Ollama)所使用的區塊式 RTN 變體,皆跳過了此類權重級的最佳化 — 這就是為什麼這些 App 在相同的 Apple 硬體上產出的品質較低。我們持續探索先進的量化方法,這是建立在第三方推論引擎上的包裝 App 無法承擔的工作。OmniQuant 與 GPTQ 搭配針對模型最佳化的 Metal 核心,讓 Private LLM 能在 Apple 硬體上提供既快速又高品質的文字生成。

下載最佳開放權重 LLM

iOS

基於 DeepSeek R1 Distill 的模型

適用於 8GB 以上 RAM 的 iPhone/iPad
DeepSeek R1 Distill Llama 8BDeepSeek R1 Distill Qwen 7BDeepSeek R1 Distill Llama 8B Abliterated (Uncensored)

基於 DeepSeek R1 Distill 的模型

適用於 16GB 以上 RAM 的 iPhone/iPad
DeepSeek R1 Distill Qwen 14B

基於 Google Gemma 3 1B 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
Gemma 3 1B IT 💎Gemma 3 1B IT Abliterated (Uncensored)Amoral Gemma 3 1B v2 (Uncensored)

基於 Google Gemma 2 2B 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

基於 Qwen 2.5 的模型

適用於 8GB 以上 RAM 的 iPhone/iPad
Qwen 2.5 Coder 7B

基於 Qwen 2.5 14B 的模型

適用於 16GB 以上 RAM 的 iPhone/iPad
Qwen 2.5 Coder 14BEVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)

基於 Phi-3 Mini 3.8B 的模型

適用於 6GB 以上 RAM 的 iPhone/iPad
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated (Uncensored)

基於 Google Gemma 的模型

適用於 8GB 以上 RAM 的 iPhone/iPad
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

基於 Llama 2 7B 的模型

適用於 6GB 以上 RAM 的 iPhone/iPad
Airoboros l2 7b 3.0Spicyboros 7b 2.2 🌶️

基於 Phi-2 3B 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
Phi-2 Orange 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬Phi-2 Super 🤖Phi-2 Orange v2 🍊

基於 H2O Danube 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
H2O Danube 1.8B Chat

基於 StableLM 3B 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
StableLM 2 Zephyr 1.6B 🪁Nous-Capybara-3B V1.9Rocket 3B 🚀

基於 TinyLlama 1.1B 的模型

適用於 4GB 以上 RAM 的 iPhone/iPad
TinyLlama 1.1B Chat 🦙TinyDolphin 2.8 1.1B Chat 🐬

基於 Yi 6B 的模型

適用於 6GB 以上 RAM 的 iPhone/iPad
Yi 6B Chat 🇨🇳
macOS

基於 DeepSeek R1 Distill 的模型

適用於 32GB 以上 RAM 的 Apple Silicon Mac
Fuse O1 DeepSeek R1 QwQ SkyT1 32BDeepSeek R1 Distill Qwen 32B Abliterated (Uncensored)

基於 DeepSeek R1 Distill 的模型

適用於 48GB 以上 RAM 的 Apple Silicon Mac
DeepSeek R1 Distill Llama 70BR1 1776 Distill Llama 70B

基於 Google Gemma 3 1B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Gemma 3 1B IT 💎Gemma 3 1B IT Abliterated (Uncensored)Amoral Gemma 3 1B v2 (Uncensored)

基於 Phi-4 14B 的模型

適用於 16GB 以上 RAM 的 Apple Silicon Mac
Phi-4

基於 Meta Llama 3.1 70B 的模型

適用於 64GB 以上 RAM 的 Apple Silicon Mac
Meta Llama 3.1 70B Instruct 🦙

基於 Qwen 2.5 14B 的模型

適用於 16GB 以上 RAM 的 Apple Silicon Mac
Qwen 2.5 Coder 14BEVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)

基於 Qwen 2.5 32B 的模型

適用於 24GB 以上 RAM 的 Apple Silicon Mac
Qwen 2.5 32BQwen 2.5 Coder 32BEVA Qwen2.5 32B v0.2 (Role-Play/Story Writing)OpenHands LM 32B v0.1 (Coding)

基於 Google Gemma 2 2B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Gemma-2 2B IT 💎SauerkrautLM Gemma-2 2B IT

基於 Phi-3 Mini 3.8B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Phi-3 Mini 4K InstructKappa-3 Phi Abliterated (Uncensored)

基於 Google Gemma 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Gemma 2B IT 💎Gemma 1.1 2B IT 💎

基於 Mixtral 8x7B 的模型

適用於 32GB 以上 RAM 的 Apple Silicon Mac
Mixtral-8x7B-Instruct-v0.1Dolphin 2.6 Mixtral 8x7B 🐬Nous Hermes 2 Mixtral 8x7B DPO ☤

基於 Llama 33B 的模型

適用於 24GB 以上 RAM 的 Apple Silicon Mac
WizardLM 33B v1.0 (Uncensored)

基於 Llama 2 13B 的模型

適用於 16GB 以上 RAM 的 Apple Silicon Mac
Wizard LM 13BSpicyboros 13B 🌶️Synthia 13B 1.2XWin-LM-13BMythomax L2 13B

基於 CodeLlama 13B 的模型

適用於 16GB 以上 RAM 的 Apple Silicon Mac
WhiteRabbitNeo-13B-v1

基於 Llama 2 7B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
airoboros-l2-7b-3.0Spicyboros 7b 2.2 🌶️Xwin-LM-7B v0.1

基於 Solar 10.7B 的模型

適用於 16GB 以上 RAM 的 Apple Silicon Mac
Nous-Hermes-2-SOLAR-10.7B ☤

基於 Phi-2 3B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Phi-2 Orange 🍊Phi-2 Orange Version 2 🍊Dolphin 2.6 Phi-2 (Uncensored) 🐬

基於 StableLM 3B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
StableLM Zephyr 3B 🪁

基於 Yi 6B 的模型

適用於 8GB 以上 RAM 的 Apple Silicon Mac
Yi 6B Chat 🇨🇳

基於 Yi 34B 的模型

適用於 24GB 以上 RAM 的 Apple Silicon Mac
Yi 34B Chat 🇨🇳
我們能提供什麼協助?

無論您是有疑問還是遇到 Private LLM 的問題,我們都樂意為您提供協助。只需在下方表格填寫您的詳細資訊,我們會儘快回覆您。