# Private LLM 適用於 iPhone、iPad 與 Mac 的私密、未審查 AI 對話

無雲端、無追蹤、無登入。

[![Download on the App Store](/app-store/download-badge/zh-TW/download.svg)](/download)[

Discord0 位使用者在線



](/discord)

[4.4·App Store 上的 1,604 則評分](/reviews)

## 在您的 iPhone、iPad 與 Mac 上離線執行 AI

Private LLM 完全在您的 iPhone、iPad 或 Mac 上執行。您的對話永遠不會離開裝置，且首次下載模型後無需網際網路。無帳號、無追蹤、無紀錄。一次購買即可解鎖您所有 Apple 裝置及「家人共享」群組中的應用程式。

![一張顯示 Private LLM 應用程式介面的 iPhone 螢幕特寫，對話介面中輸入了文字提示，突顯該應用程式能在裝置上本機執行複雜語言模型，以增強隱私與離線功能](/_astro/ios_prompt.q9DZ5858.webp)

## 在本機執行 DeepSeek R1、Llama 3.3、Qwen3 與 Gemma 3

Private LLM 直接在您的 Apple 裝置上執行領先的開放權重模型 — DeepSeek R1 Distill、Llama 3.3 70B、Qwen3 4B、Phi 4、Google Gemma 3 等。每場對話都保留在裝置上，且每個模型皆經過內部量化，以在您的硬體上達到最佳品質。

[為您的裝置尋找最佳開放權重 LLM](/zh-TW#models)

![iPhone 上 Private LLM 應用程式的截圖，顯示易於使用的介面，列出可供離線使用的可下載大型語言模型 (LLM)，展示多種模型名稱與說明，強調該應用程式的個人化 AI 體驗能力，同時突顯其隱私與離線功能。](/_astro/downloadable_models_ios.BmHBJGeb.webp)

## Siri 與 Apple Shortcuts 中的本機 AI — 無需程式碼

Private LLM 直接整合至 Siri 與 Shortcuts 應用程式。建立 AI 驅動的工作流程，以總結文字、產生寫作內容，或將回應傳送至任何支援 [x-callback-url 規範](https://x-callback-url.com/) 的 70 多款應用程式。無需編寫程式碼。

[查看使用者為 Private LLM 建立的 Apple Shortcuts](/zh-TW/community-shortcuts)

![一台顯示 Private LLM 應用程式介面與 Apple Shortcut 整合的 iPhone，展示在 iOS 上個人化 AI 互動的流暢使用者體驗](/_astro/shortcuts.CRkFn8Aq.webp)

## 一次購買，無需訂閱 — 支援六人家人共享

放棄訂閱，選擇 Private LLM，做出更明智的決定。單次購買即可解鎖所有 Apple 平台（iPhone、iPad 與 Mac），並支援最多六位親友的「家人共享」。此方式不僅簡化了存取流程，更提升了您的投資價值，讓您的家庭成員都能享有數位隱私與智慧。

![macOS 上 Private LLM 介面的截圖，顯示使用者在應用程式的文字輸入欄位中輸入提示，準備接收來自本機語言模型的即時離線回應](/_astro/macos_prompt.DfGFHq6k.webp)

## 內建於 macOS 的 AI 寫作工具

在任何 macOS 應用程式中選取文字，按右鍵，Private LLM 即可進行重寫、總結或校對 — 完全在裝置上完成。支援英文與主要西歐語言。

![顯示 macOS 全系統服務選單中 Private LLM 整合的截圖。](/_astro/macos-service-menu.B1QmQmpp.webp)

## 由兩位工程師打造，而非創投

Private LLM 由歐盟的兩位工程師打造 — 自力更生，無創投資金，無成長駭客路線圖。我們是 App Store 上唯一具備 OmniQuant 與 GPTQ 量化技術的應用程式，其產出品質明顯優於 MLX 與 llama.cpp 封裝應用程式（如 Ollama 與 LM Studio）所使用的 RTN 量化。我們對使用者負責，而非投資人 — 這就是為什麼您的資料始終保留在裝置上，且未來也將如此。

![一台顯示 Private LLM 應用程式介面與 Apple Shortcut 整合的 iPhone，展示在 iOS 上個人化 AI 互動的流暢使用者體驗](/_astro/independent-devs.nPY4P8E5.png)

來自 App Store

## 來自 iPhone 與 Mac 使用者的真實評論

> “This is a private AI app created by developers performing constant updates and not charging a subscription. That is rare nowadays! Bravo, looking forward to the updates as this continues to improve!”

🇺🇸8parental8 · App Store 評論

評論 1 / 5

[閱讀 App Store 評論](/reviews)

## OmniQuant 與 GPTQ 量化：更佳輸出，更少記憶體

Private LLM 使用 [OmniQuant](https://arxiv.org/abs/2308.13137) 與 GPTQ 量化。當 LLM 為裝置端推論進行量化時，離群權重值會損害文字生成品質。OmniQuant 透過可學習的、基於最佳化的裁剪機制來調節離群權重，從而將量化誤差降至最低。GPTQ 使用近似二階 (Hessian) 資訊來最小化關鍵權重的重建誤差。基於 MLX 的應用程式（如 LM Studio）所使用的仿射 RTN 量化，以及基於 llama.cpp 的應用程式（如 Ollama）所使用的區塊式 RTN 變體，皆跳過了這種逐權重最佳化 — 這就是為什麼這些應用程式在相同的 Apple 硬體上產出的品質較低。我們持續探索先進的量化方法，這是建立在第三方推論引擎上的封裝應用程式無法承擔的工作。OmniQuant 與 GPTQ 搭配最佳化的模型專用 Metal 核心，讓 Private LLM 能夠在 Apple 硬體上提供既快速又高品質的文字生成。

[Private LLM 與 Ollama 的比較](/compare/ollama-vs-private-llm)

## 下載最佳開放權重 LLM

iOS

### 基於 Qwen3 4B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Qwen3 4B Instruct 2507](https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507)[Qwen3 4B Instruct 2507 Abliterated (Uncensored)](https://huggingface.co/huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated)[Josiefied Qwen3 4B Instruct 2507 (Uncensored)](https://huggingface.co/Goekdeniz-Guelmez/Josiefied-Qwen3-4B-Instruct-2507-gabliterated-v1)[Qwen3 4B Instruct 2507 Heretic (Uncensored)](https://huggingface.co/p-e-w/Qwen3-4B-Instruct-2507-heretic)[Qwen3 4B Instruct 2507 Heretic NoSlop (Uncensored)](https://huggingface.co/numen-tech/Qwen3-4B-Instruct-2507-heretic-noslop-GPTQ-Int4)

### 基於 DeepSeek R1 Distill 的模型

適用於具備 8GB 以上 RAM 的 iPhone/iPad

[DeepSeek R1 Distill Llama 8B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Llama-8B)[DeepSeek R1 Distill Qwen 7B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B)[DeepSeek R1 Distill Llama 8B Abliterated (Uncensored)](https://huggingface.co/huihui-ai/DeepSeek-R1-Distill-Llama-8B-abliterated)

### 基於 DeepSeek R1 Distill 的模型

適用於具備 16GB 以上 RAM 的 iPhone/iPad

[DeepSeek R1 Distill Qwen 14B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B)

### 基於 Meta Llama 3.2 3B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Meta Llama 3.2 3B Instruct 🦙](https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct)[Llama 3.2 3B Instruct Abliterated 🦙 (Uncensored)](https://huggingface.co/huihui-ai/Llama-3.2-3B-Instruct-abliterated)[Llama 3.2 3B Instruct Uncensored 🦙](https://huggingface.co/chuanli11/Llama-3.2-3B-Instruct-uncensored)[Hermes 3 Llama 3.2 3B](https://huggingface.co/NousResearch/Hermes-3-Llama-3.2-3B)[FuseChat Llama 3.2 3B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.2-3B-Instruct)[Dolphin 3.0 Llama 3.2 3B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.2-3B)

### 基於 Meta Llama 3.2 1B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[Meta Llama 3.2 1B Instruct 🦙](https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct)[Llama 3.2 1B Instruct Abliterated 🦙 (Uncensored)](https://huggingface.co/huihui-ai/Llama-3.2-1B-Instruct-abliterated)[FuseChat Llama 3.2 1B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.2-1B-Instruct)[Dolphin 3.0 Llama 3.2 1B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.2-1B)

### 基於 Google Gemma 3 1B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[Gemma 3 1B IT 💎](https://huggingface.co/google/gemma-3-1b-it)[Gemma 3 1B IT Abliterated (Uncensored)](https://huggingface.co/mlabonne/gemma-3-1b-it-abliterated)[Amoral Gemma 3 1B v2 (Uncensored)](https://huggingface.co/soob3123/amoral-gemma3-1B-v2)

### 基於 Google Gemma 2 9B 的模型

適用於具備 16GB 以上 RAM 的 iPhone/iPad

[Gemma-2 9B IT 💎](https://huggingface.co/google/gemma-2-9b-it)[Gemma-2 9B IT SPPO Iter3](https://huggingface.co/UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3)[Tiger Gemma 9B v3 🐅 (Uncensored)](https://huggingface.co/TheDrummer/Tiger-Gemma-9B-v3)[FuseChat Gemma 2 9B Instruct](https://huggingface.co/FuseAI/FuseChat-Gemma-2-9B-Instruct)[Gemma 2 Ifable 9B (Creative Writing)](https://huggingface.co/ifable/gemma-2-Ifable-9B)

### 基於 Google Gemma 2 2B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[Gemma-2 2B IT 💎](https://huggingface.co/google/gemma-2-2b-it)[SauerkrautLM Gemma-2 2B IT](https://huggingface.co/VAGOsolutions/SauerkrautLM-gemma-2-2b-it)

### 基於 Meta Llama 3.1 8B 的模型

適用於具備 8GB 以上 RAM 的 iPhone/iPad

[Meta Llama 3.1 8B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct)[Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)](https://huggingface.co/mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated)[Hermes 3 Llama 3.1 8B](https://huggingface.co/NousResearch/Hermes-3-Llama-3.1-8B)[FuseChat Llama 3.1 8B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.1-8B-Instruct)[Llama 3.1 8B Lexi Uncensored V2 (Therapy/Role-Play)](https://huggingface.co/Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2)[Dolphin 3.0 Llama 3.1 8B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.1-8B)[Meta Llama 3.1 8B Survive V3 (Survival Specialist)](https://huggingface.co/lolzinventor/Meta-Llama-3.1-8B-SurviveV3)[Llama 3.1 8B UltraMedical 🏥 (Biomedical)](https://huggingface.co/TsinghuaC3I/Llama-3.1-8B-UltraMedical)

### 基於 Meta Llama 3 8B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Meta Llama 3 8B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct)[Meta Llama 3 8B Instruct Abliterated v3 (Uncensored)](https://huggingface.co/failspy/Meta-Llama-3-8B-Instruct-abliterated-v3)[NeuralDaredevil 8B Abliterated (Uncensored)](https://huggingface.co/mlabonne/NeuralDaredevil-8B-abliterated)[Llama 3 8B Instruct MopeyMule](https://huggingface.co/failspy/Llama-3-8B-Instruct-MopeyMule)[Llama 3 WhiteRabbitNeo 8B v2.0](https://huggingface.co/WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0)[Hermes 2 Theta Llama 3 8B](https://huggingface.co/NousResearch/Hermes-2-Theta-Llama-3-8B)[LLaMA3-iterative-DPO-final](https://huggingface.co/RLHFlow/LLaMA3-iterative-DPO-final)[Hathor\_Stable-v0.2-L3-8B](https://huggingface.co/Nitral-AI/Hathor_Stable-v0.2-L3-8B)[Openchat 3.6 8B 20240522](https://huggingface.co/openchat/openchat-3.6-8b-20240522)[Dolphin 2.9 Llama 3 8B (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8b)[Llama 3 Smaug 8B](https://huggingface.co/abacusai/Llama-3-Smaug-8B)[Hermes 2 Pro Llama 3 8B ☤](https://huggingface.co/NousResearch/Hermes-2-Pro-Llama-3-8B)[OpenBioLLM-8B 🧬 (Biomedical)](https://huggingface.co/aaditya/Llama3-OpenBioLLM-8B)[L3 Umbral Mind RP v3.0 8B 🌓](https://huggingface.co/Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B)[Llama 3 Instruct 8B SPPO Iter3](https://huggingface.co/UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3)

### 基於 Qwen 2.5 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[Qwen 2.5 0.5B Unquantized](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct)[Qwen 2.5 Coder 0.5B Unquantized](https://huggingface.co/Qwen/Qwen2.5-Coder-0.5B-Instruct)[Dolphin 3.0 Qwen 2.5 0.5B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-0.5B)[Qwen 2.5 1.5B](https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct)[Qwen 2.5 Coder 1.5B](https://huggingface.co/Qwen/Qwen2.5-Coder-1.5B-Instruct)[EVA-D Qwen2.5 1.5B v0.0 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-D-Qwen2.5-1.5B-v0.0)[Dolphin 3.0 Qwen 2.5 1.5B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-1.5B)[Qwen 2.5 3B](https://huggingface.co/Qwen/Qwen2.5-3B-Instruct)[Qwen 2.5 Coder 3B](https://huggingface.co/Qwen/Qwen2.5-Coder-3B-Instruct)[Dolphin 3.0 Qwen 2.5 3B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-3b)

### 基於 Qwen 2.5 的模型

適用於具備 8GB 以上 RAM 的 iPhone/iPad

[Qwen 2.5 7B](https://huggingface.co/Qwen/Qwen2.5-7B-Instruct)[FuseChat Qwen 2.5 7B Instruct](https://huggingface.co/FuseAI/FuseChat-Qwen-2.5-7B-Instruct)[EVA Qwen2.5 7B v0.1 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-Qwen2.5-7B-v0.1)[OpenHands LM 7B v0.1 (Coding)](https://huggingface.co/all-hands/openhands-lm-7b-v0.1)

### 基於 Qwen 2.5 的模型

適用於具備 8GB 以上 RAM 的 iPhone/iPad

[Qwen 2.5 Coder 7B](https://huggingface.co/Qwen/Qwen2.5-Coder-7B-Instruct)

### 基於 Qwen 2.5 14B 的模型

適用於具備 16GB 以上 RAM 的 iPhone/iPad

[Qwen 2.5 Coder 14B](https://huggingface.co/Qwen/Qwen2.5-Coder-14B-Instruct)[EVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2)

### 基於 Phi-3 Mini 3.8B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Phi-3 Mini 4K Instruct](https://huggingface.co/microsoft/Phi-3-mini-4k-instruct)[Kappa-3 Phi Abliterated (Uncensored)](https://huggingface.co/failspy/kappa-3-phi-abliterated)

### 基於 Google Gemma 的模型

適用於具備 8GB 以上 RAM 的 iPhone/iPad

[Gemma 2B IT 💎](https://huggingface.co/google/gemma-2b-it/)[Gemma 1.1 2B IT 💎](https://huggingface.co/google/gemma-1.1-2b-it)

### 基於 Mistral 7B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Mistral 7B Instruct v0.3](https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.3)[Mistral 7B Instruct v0.2](https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.2)[OpenHermes 2.5 Mistral 7B ☤](https://huggingface.co/teknium/OpenHermes-2.5-Mistral-7B)[Hermes 2 Pro Mistral 7B ☤](https://huggingface.co/NousResearch/Hermes-2-Pro-Mistral-7B)[RakutenAI 7B Chat 🇯🇵](https://huggingface.co/Rakuten/RakutenAI-7B-chat)[openchat-3.5-0106 7B 💬](https://huggingface.co/openchat/openchat-3.5-0106)[CodeNinja 1.0 OpenChat 7B 🥷](https://huggingface.co/beowolx/CodeNinja-1.0-OpenChat-7B)[Starling LM 7B Beta 🐤](https://huggingface.co/Nexusflow/Starling-LM-7B-beta)[Dolphin 2.8 Mistral 7B v0.2 (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2.8-mistral-7b-v02)[DictaLM 2.0 Instruct 🇮🇱](https://huggingface.co/dicta-il/dictalm2.0-instruct)

### 基於 Llama 2 7B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Airoboros l2 7b 3.0](https://huggingface.co/jondurbin/airoboros-l2-7b-3.0)[Spicyboros 7b 2.2 🌶️](https://huggingface.co/jondurbin/spicyboros-7b-2.2)

### 基於 Phi-2 3B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[Phi-2 Orange 🍊](https://huggingface.co/rhysjones/phi-2-orange)[Dolphin 2.6 Phi-2 (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2_6-phi-2)[Phi-2 Super 🤖](https://huggingface.co/abacaj/phi-2-super)[Phi-2 Orange v2 🍊](https://huggingface.co/rhysjones/phi-2-orange-v2)

### 基於 H2O Danube 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[H2O Danube 1.8B Chat](https://huggingface.co/h2oai/h2o-danube-1.8b-chat)

### 基於 StableLM 3B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[StableLM 2 Zephyr 1.6B 🪁](https://huggingface.co/stabilityai/stablelm-2-zephyr-1_6b)[Nous-Capybara-3B V1.9](https://huggingface.co/NousResearch/Nous-Capybara-3B-V1.9)[Rocket 3B 🚀](https://huggingface.co/pansophic/rocket-3B)

### 基於 TinyLlama 1.1B 的模型

適用於具備 4GB 以上 RAM 的 iPhone/iPad

[TinyLlama 1.1B Chat 🦙](https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0)[TinyDolphin 2.8 1.1B Chat 🐬](https://huggingface.co/cognitivecomputations/TinyDolphin-2.8-1.1b)

### 基於 Yi 6B 的模型

適用於具備 6GB 以上 RAM 的 iPhone/iPad

[Yi 6B Chat 🇨🇳](https://huggingface.co/01-ai/Yi-6B-Chat)

macOS

### 基於 DeepSeek R1 Distill 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[DeepSeek R1 Distill Llama 8B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Llama-8B)[DeepSeek R1 Distill Llama 8B Abliterated (Uncensored)](https://huggingface.co/huihui-ai/DeepSeek-R1-Distill-Llama-8B-abliterated)[DeepSeek R1 Distill Qwen 7B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B)[DeepSeek R1 Distill Qwen 14B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B)

### 基於 DeepSeek R1 Distill 的模型

適用於具備 32GB 以上 RAM 的 Apple Silicon Mac

[Fuse O1 DeepSeek R1 QwQ SkyT1 32B](https://huggingface.co/FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview)[DeepSeek R1 Distill Qwen 32B Abliterated (Uncensored)](https://huggingface.co/huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated)

### 基於 DeepSeek R1 Distill 的模型

適用於具備 48GB 以上 RAM 的 Apple Silicon Mac

[DeepSeek R1 Distill Llama 70B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Llama-70B)[R1 1776 Distill Llama 70B](https://huggingface.co/perplexity-ai/r1-1776-distill-llama-70b)

### 基於 Google Gemma 3 1B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Gemma 3 1B IT 💎](https://huggingface.co/google/gemma-3-1b-it)[Gemma 3 1B IT Abliterated (Uncensored)](https://huggingface.co/mlabonne/gemma-3-1b-it-abliterated)[Amoral Gemma 3 1B v2 (Uncensored)](https://huggingface.co/soob3123/amoral-gemma3-1B-v2)

### 基於 Phi-4 14B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Phi-4](https://huggingface.co/microsoft/phi-4)

### 基於 Meta Llama 3.3 70B 的模型

適用於具備 48GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3.3 70B Instruct 🦙](https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct)[Llama 3.3 70B Instruct Abliterated (Uncensored)](https://huggingface.co/huihui-ai/Llama-3.3-70B-Instruct-abliterated)[EVA LLaMA 3.33 70B v0.1 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-LLaMA-3.33-70B-v0.1)[Llama 3.3 70B Euryale v2.3 (Role-Play/Story Writing)](https://huggingface.co/Sao10K/L3.3-70B-Euryale-v2.3)

### 基於 Meta Llama 3.2 3B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3.2 3B Instruct 🦙](https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct)[Dolphin 3.0 Llama 3.2 3B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.2-3B)[Llama 3.2 3B Instruct Abliterated 🦙 (Uncensored)](https://huggingface.co/huihui-ai/Llama-3.2-3B-Instruct-abliterated)[Llama 3.2 3B Instruct Uncensored 🦙](https://huggingface.co/chuanli11/Llama-3.2-3B-Instruct-uncensored)[Hermes 3 Llama 3.2 3B](https://huggingface.co/NousResearch/Hermes-3-Llama-3.2-3B)[FuseChat Llama 3.2 3B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.2-3B-Instruct)

### 基於 Meta Llama 3.2 1B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3.2 1B Instruct 🦙](https://huggingface.co/meta-llama/Llama-3.2-1B-Instruct)[Dolphin 3.0 Llama 3.2 1B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.2-1B)[Llama 3.2 1B Instruct Abliterated 🦙 (Uncensored)](https://huggingface.co/huihui-ai/Llama-3.2-1B-Instruct-abliterated)[FuseChat Llama 3.2 1B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.2-1B-Instruct)

### 基於 Meta Llama 3.1 70B 的模型

適用於具備 64GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3.1 70B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3.1-70B-Instruct)

### 基於 Meta Llama 3.1 8B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3.1 8B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct)[Meta Llama 3.1 8B Instruct Abliterated 🦙(Uncensored)](https://huggingface.co/mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated)[Hermes 3 Llama 3.1 8B](https://huggingface.co/NousResearch/Hermes-3-Llama-3.1-8B)[FuseChat Llama 3.1 8B Instruct](https://huggingface.co/FuseAI/FuseChat-Llama-3.1-8B-Instruct)[Llama 3.1 8B Lexi Uncensored V2 (Therapy/Role-Play)](https://huggingface.co/Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2)[Dolphin 3.0 Llama 3.1 8B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.1-8B)[Meta Llama 3.1 8B Survive V3 (Survival Specialist)](https://huggingface.co/lolzinventor/Meta-Llama-3.1-8B-SurviveV3)[Llama 3.1 8B UltraMedical 🏥 (Biomedical)](https://huggingface.co/TsinghuaC3I/Llama-3.1-8B-UltraMedical)

### 基於 Qwen 2.5 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Qwen 2.5 0.5B Unquantized](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct)[Qwen 2.5 1.5B](https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct)[Qwen 2.5 3B](https://huggingface.co/Qwen/Qwen2.5-3B-Instruct)[Qwen 2.5 7B](https://huggingface.co/Qwen/Qwen2.5-7B-Instruct)[Qwen 2.5 Coder 0.5B Unquantized](https://huggingface.co/Qwen/Qwen2.5-Coder-0.5B-Instruct)[Qwen 2.5 Coder 1.5B](https://huggingface.co/Qwen/Qwen2.5-Coder-1.5B-Instruct)[Qwen 2.5 Coder 3B](https://huggingface.co/Qwen/Qwen2.5-Coder-3B-Instruct)[Qwen 2.5 Coder 7B](https://huggingface.co/Qwen/Qwen2.5-Coder-7B-Instruct)[FuseChat Qwen 2.5 7B Instruct](https://huggingface.co/FuseAI/FuseChat-Qwen-2.5-7B-Instruct)[EVA-D Qwen2.5 1.5B v0.0 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-D-Qwen2.5-1.5B-v0.0)[EVA Qwen2.5 7B v0.1 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-Qwen2.5-7B-v0.1)[Dolphin 3.0 Qwen 2.5 0.5B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-0.5B)[Dolphin 3.0 Qwen 2.5 1.5B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-1.5B)[Dolphin 3.0 Qwen 2.5 3B 🐬 (Uncensored)](https://huggingface.co/cognitivecomputations/Dolphin3.0-Qwen2.5-3b)

### 基於 Qwen 2.5 14B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Qwen 2.5 Coder 14B](https://huggingface.co/Qwen/Qwen2.5-Coder-14B-Instruct)[EVA Qwen2.5 14B v0.2 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2)

### 基於 Qwen3 4B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Qwen3 4B Instruct 2507](https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507)[Qwen3 4B Instruct 2507 Abliterated (Uncensored)](https://huggingface.co/huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated)[Josiefied Qwen3 4B Instruct 2507 (Uncensored)](https://huggingface.co/Goekdeniz-Guelmez/Josiefied-Qwen3-4B-Instruct-2507-gabliterated-v1)[Qwen3 4B Instruct 2507 Heretic (Uncensored)](https://huggingface.co/p-e-w/Qwen3-4B-Instruct-2507-heretic)[Qwen3 4B Instruct 2507 Heretic NoSlop (Uncensored)](https://huggingface.co/numen-tech/Qwen3-4B-Instruct-2507-heretic-noslop-GPTQ-Int4)

### 基於 Qwen 2.5 32B 的模型

適用於具備 24GB 以上 RAM 的 Apple Silicon Mac

[Qwen 2.5 32B](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct)[Qwen 2.5 Coder 32B](https://huggingface.co/Qwen/Qwen2.5-Coder-32B-Instruct)[EVA Qwen2.5 32B v0.2 (Role-Play/Story Writing)](https://huggingface.co/EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2)[OpenHands LM 32B v0.1 (Coding)](https://huggingface.co/all-hands/openhands-lm-32b-v0.1)

### 基於 Google Gemma 2 9B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Gemma-2 9B IT 💎](https://huggingface.co/google/gemma-2-9b-it)[Gemma-2 9B IT SPPO Iter3](https://huggingface.co/UCLA-AGI/Gemma-2-9B-It-SPPO-Iter3)[Tiger Gemma 9B v3 🐅 (Uncensored)](https://huggingface.co/TheDrummer/Tiger-Gemma-9B-v3)[FuseChat Gemma 2 9B Instruct](https://huggingface.co/FuseAI/FuseChat-Gemma-2-9B-Instruct)[Gemma 2 Ifable 9B (Creative Writing)](https://huggingface.co/ifable/gemma-2-Ifable-9B)

### 基於 Google Gemma 2 2B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Gemma-2 2B IT 💎](https://huggingface.co/google/gemma-2-2b-it)[SauerkrautLM Gemma-2 2B IT](https://huggingface.co/VAGOsolutions/SauerkrautLM-gemma-2-2b-it)

### 基於 Meta Llama 3 70B 的模型

適用於具備 48GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3 70B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3-70B)[Smaug Llama 3 70B Instruct](https://huggingface.co/abacusai/Smaug-Llama-3-70B-Instruct)[Smaug Llama 3 70B Instruct Abliterated v3 (Uncensored)](https://huggingface.co/failspy/Smaug-Llama-3-70B-Instruct-abliterated-v3)[Cat Llama 3 70B Instruct](https://huggingface.co/turboderp/Cat-Llama-3-70B-instruct)

### 基於 Meta Llama 3 8B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Meta Llama 3 8B Instruct 🦙](https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct)[Meta Llama 3 8B Instruct Abliterated v3 (Uncensored)](https://huggingface.co/failspy/Meta-Llama-3-8B-Instruct-abliterated-v3)[NeuralDaredevil 8B Abliterated (Uncensored)](https://huggingface.co/mlabonne/NeuralDaredevil-8B-abliterated)[Llama 3 8B Instruct MopeyMule](https://huggingface.co/failspy/Llama-3-8B-Instruct-MopeyMule)[Llama 3 WhiteRabbitNeo 8B v2.0](https://huggingface.co/WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0)[Hermes 2 Theta Llama 3 8B](https://huggingface.co/NousResearch/Hermes-2-Theta-Llama-3-8B)[LLaMA3-iterative-DPO-final](https://huggingface.co/RLHFlow/LLaMA3-iterative-DPO-final)[Hathor\_Stable-v0.2-L3-8B](https://huggingface.co/Nitral-AI/Hathor_Stable-v0.2-L3-8B)[Openchat 3.6 8B 20240522](https://huggingface.co/openchat/openchat-3.6-8b-20240522)[Dolphin 2.9 Llama 3 8B (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2.9-llama3-8b)[Llama 3 Smaug 8B](https://huggingface.co/abacusai/Llama-3-Smaug-8B)[Hermes 2 Pro Llama 3 8B ☤](https://huggingface.co/NousResearch/Hermes-2-Pro-Llama-3-8B)[OpenBioLLM-8B 🧬 (Biomedical)](https://huggingface.co/aaditya/Llama3-OpenBioLLM-8B)[L3 Umbral Mind RP v3.0 8B 🌓](https://huggingface.co/Casual-Autopsy/L3-Umbral-Mind-RP-v3.0-8B)[Llama 3 Instruct 8B SPPO Iter3](https://huggingface.co/UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3)

### 基於 Phi-3 Mini 3.8B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Phi-3 Mini 4K Instruct](https://huggingface.co/microsoft/Phi-3-mini-4k-instruct)[Kappa-3 Phi Abliterated (Uncensored)](https://huggingface.co/failspy/kappa-3-phi-abliterated)

### 基於 Google Gemma 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Gemma 2B IT 💎](https://huggingface.co/google/gemma-2b-it/)[Gemma 1.1 2B IT 💎](https://huggingface.co/google/gemma-1.1-2b-it)

### 基於 Mixtral 8x7B 的模型

適用於具備 32GB 以上 RAM 的 Apple Silicon Mac

[Mixtral-8x7B-Instruct-v0.1](https://huggingface.co/mistralai/Mixtral-8x7B-Instruct-v0.1)[Dolphin 2.6 Mixtral 8x7B 🐬](https://huggingface.co/cognitivecomputations/dolphin-2.6-mixtral-8x7b)[Nous Hermes 2 Mixtral 8x7B DPO ☤](https://huggingface.co/NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO)

### 基於 Llama 33B 的模型

適用於具備 24GB 以上 RAM 的 Apple Silicon Mac

[WizardLM 33B v1.0 (Uncensored)](https://huggingface.co/cognitivecomputations/WizardLM-33B-V1.0-\(Uncensored\))

### 基於 Llama 2 13B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Wizard LM 13B](https://huggingface.co/WizardLM/WizardLM-13B-V1.2)[Spicyboros 13B 🌶️](https://huggingface.co/jondurbin/spicyboros-13b-2.2)[Synthia 13B 1.2](https://huggingface.co/migtissera/Synthia-13B-v1.2)[XWin-LM-13B](https://huggingface.co/Xwin-LM/Xwin-LM-13B-V0.1)[Mythomax L2 13B](https://huggingface.co/Gryphe/MythoMax-L2-13b)

### 基於 CodeLlama 13B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[WhiteRabbitNeo-13B-v1](https://huggingface.co/WhiteRabbitNeo/WhiteRabbitNeo-13B-v1)

### 基於 Llama 2 7B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[airoboros-l2-7b-3.0](https://huggingface.co/jondurbin/airoboros-l2-7b-3.0)[Spicyboros 7b 2.2 🌶️](https://huggingface.co/jondurbin/spicyboros-7b-2.2)[Xwin-LM-7B v0.1](https://huggingface.co/Xwin-LM/Xwin-LM-7B-V0.1)

### 基於 Solar 10.7B 的模型

適用於具備 16GB 以上 RAM 的 Apple Silicon Mac

[Nous-Hermes-2-SOLAR-10.7B ☤](https://huggingface.co/NousResearch/Nous-Hermes-2-SOLAR-10.7B)

### 基於 Phi-2 3B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Phi-2 Orange 🍊](https://huggingface.co/rhysjones/phi-2-orange)[Phi-2 Orange Version 2 🍊](https://huggingface.co/rhysjones/phi-2-orange-v2)[Dolphin 2.6 Phi-2 (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2_6-phi-2)

### 基於 Mistral 7B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Mistral 7B Instruct v0.3](https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.3)[Mistral 7B Instruct v0.2](https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.2)[Mistral Instruct v0.1](https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.1)[Mistral-7B-OpenOrca](https://huggingface.co/Open-Orca/Mistral-7B-OpenOrca)[Zephyr 7B Beta 🪁](https://huggingface.co/HuggingFaceH4/zephyr-7b-beta)[Leo Mistral Hessian AI 7B 🇩🇪](https://huggingface.co/LeoLM/leo-mistral-hessianai-7b-chat/tree/main)[Jackalope 7B](https://huggingface.co/openaccess-ai-collective/jackalope-7b)[Dolphin 2.1 Mistral (Uncensored) 🐬](https://huggingface.co/cognitivecomputations/dolphin-2.1-mistral-7b)[Samantha 1.2 Mistral](https://huggingface.co/cognitivecomputations/samantha-1.2-mistral-7b)[OpenHermes 2 Mistral ☤](https://huggingface.co/teknium/OpenHermes-2-Mistral-7B)[SynthIA 7B 2.0](https://huggingface.co/migtissera/SynthIA-7B-v2.0)[Airoboros M 7B](https://huggingface.co/jondurbin/airoboros-m-7b-3.1.2)[Mistral Trismegistus 7B](https://huggingface.co/teknium/Mistral-Trismegistus-7B)[Cerbero 7B 🇮🇹](https://huggingface.co/galatolo/cerbero-7b)[openchat-3.5-0106 7B](https://huggingface.co/openchat/openchat-3.5-0106)[CodeNinja 1.0 OpenChat 7B 🥷](https://huggingface.co/beowolx/CodeNinja-1.0-OpenChat-7B)[BioMistral 7B 🧬 (Biomedical)](https://huggingface.co/BioMistral/BioMistral-7B)[Nous-Hermes-2-Mistral-7B-DPO ☤](https://huggingface.co/NousResearch/Nous-Hermes-2-Mistral-7B-DPO)[Merlinite 7B 🧙](https://huggingface.co/ibm/merlinite-7b)[RakutenAI 7B Chat 🇯🇵](https://huggingface.co/Rakuten/RakutenAI-7B-chat)[Starling LM 7B Beta 🐤](https://huggingface.co/Nexusflow/Starling-LM-7B-beta)[DictaLM 2.0 Instruct 🇮🇱](https://huggingface.co/dicta-il/dictalm2.0-instruct)

### 基於 StableLM 3B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[StableLM Zephyr 3B 🪁](https://huggingface.co/stabilityai/stablelm-zephyr-3b)

### 基於 Yi 6B 的模型

適用於具備 8GB 以上 RAM 的 Apple Silicon Mac

[Yi 6B Chat 🇨🇳](https://huggingface.co/01-ai/Yi-6B-Chat)

### 基於 Yi 34B 的模型

適用於具備 24GB 以上 RAM 的 Apple Silicon Mac

[Yi 34B Chat 🇨🇳](https://huggingface.co/01-ai/Yi-34B-Chat)

有什麼我們可以幫忙的嗎？

無論您有疑問還是遇到 Private LLM 的問題，我們都樂意為您提供協助。只需在下方的表格中填寫您的詳細資訊，我們會儘快回覆您。

姓名

電子郵件

我們能如何協助您？一般諮詢技術問題或錯誤回報回饋或建議

選擇您的平台iOSiPadOSmacOS

裝置型號

訊息

傳送