Private LLM FAQ: iPhone、iPad、MacのローカルLLM

Private LLMは、プライバシー、利便性、創造性のために設計されたプライベートAIチャットボットです。iPhone、iPad、Mac上で完全にオフラインで動作し、データの安全性と機密性を確保します。Private LLMはApp Storeでの買い切り型アプリであり、サブスクリプション料金なしで無制限にアクセスできます。注：私たちはサブスクリプションが嫌いです。自分たちが嫌うものをユーザーに強いるような偽善者にはなりたくありません。

第一に、Private LLMはOmniQuantやGPTQといった高度なモデル量子化技術により、他のローカルAIソリューションと一線を画しています。MLXやllama.cppフレームワークに基づく他の競合アプリで使用される単純なRound-To-Nearest（RTN）量子化とは異なり、OmniQuantやGPTQ量子化は最適化ベースの手法です。これらの手法により、量子化範囲をより正確に制御でき、元の重み分布の整合性を効果的に維持できます。その結果、Private LLMは、非量子化の16ビット浮動小数点（fp16）モデルの性能にほぼ匹敵する優れたモデル性能と精度を達成しながら、推論時の計算要件を大幅に削減しています。

OmniQuantとGPTQでモデルを量子化する処理は計算負荷が高いものの、投資する価値があります。この高度な手法により、量子化後のモデルのパープレキシティ（モデルのテキスト生成品質を示す指標）は、単純なRTN量子化の場合よりもはるかに元のfp16モデルに近い値に保たれます。そのためオンデバイスでのテキスト生成品質を高く維持でき、そこがPrivate LLMと類似アプリを分ける点です。

第二に、他のほとんどのオフラインLLMアプリとは異なり、Private LLMはllama.cppやMLXに基づいていません。つまり、アテンションシンクやスライディングウィンドウアテンションなど、llama.cppやMLX（およびそれらを使用するアプリ）では利用できない高度な機能がPrivate LLMでは利用可能です[1]。また、同じハードウェア上では競合アプリよりも大幅に高速に動作します（パフォーマンスを比較したYouTube動画）。

最後に、私たちは機械学習エンジニアとして、各モデルの量子化とパラメータを慎重に調整し、テキスト生成品質を最大化しています。例えば、Mixtralモデルの埋め込み層とゲート層は量子化しません。これらを量子化するとモデルのパープレキシティに悪影響を及ぼすためです（言うまでもなく、競合他社はすべてを単純に量子化しています）。Gemmaモデルでも同様に、重み共有された埋め込みを量子化するとパープレキシティが悪化するため、私たちは量子化しません（競合他社は量子化しています）。また、MicrosoftのPhi 4モデルでは、最適なテキスト生成品質を維持するために、いくつかの重要な層をあえて量子化せずに残しています（動的量子化）。

Private LLMは、プライバシーとオフライン機能を損なうことなく、精度と計算効率を重視することで、iOSとmacOSのユーザーに、自分のハードウェア上だけで動作するプライベートなオンデバイスAIを提供します。

Private LLMは、VCの出資を受けずに2人の開発者が自己資金で開発している製品です。OllamaやLM Studioのような競合他社は、VCの出資を受けた企業です。中には、商用目的や本番環境での利用を禁じる厳しい条項を利用規約に忍ばせているところもあります。私たちは、ユーザーがアプリをどう使うかについて制限を設けていません。自己資金で運営する買い切り型のこのモデルは完璧ではなく、広告やインフルエンサーの投稿、Twitterのゴールドチェックマークを買えないといった欠点もあります。しかしその反面、ユーザーを積極的に監視して収益化せよというVCからのプレッシャーがなく、ユーザーと私たちのための製品づくりに100%集中できます。

Private LLMは、品質と独立性を重視しています。優れたパフォーマンスを実現するため、OmniQuantやGPTQといった高度な手法ですべてのモデルを丁寧に量子化しています。この工程には多大なリソースが必要で、GPUのレンタルひとつ取っても決して無料ではありません。競合他社はいずれもRTN（round to nearest）量子化を使っています。リソース面では非常に安価ですが、量子化されたモデルの品質は低くなります。私たちは小規模な独立系企業として、SOTA量子化アルゴリズムによるモデルの量子化に多くの時間とリソースを費やしています。品質を考えれば、それだけの価値があるトレードオフだからです。その結果、精度と速度で際立つ、比類のないAI体験が生まれます。

プライバシーも、Private LLMの核となる価値観の1つです。すべての処理をデバイス上でローカルに行い、データの収集やトラッキングは一切行いません。VCの出資を受け、拡張性のある収益源を求めるプレッシャーにさらされている企業にとって、こう言い切るのは容易ではありません。私たちは独立を保つことで、データを常にプライベートに保ちます。

無料の製品は、特にインフルエンサーが盛んに宣伝していると魅力的に見えるかもしれません。しかし実際には、テキスト生成の品質が劣ることが少なくありません。Private LLMは異なるアプローチを取り、一貫性、精度、コンテキストの面で群を抜くテキスト生成を実現します。買い切り型の料金体系により、Private LLMはユーザー中心でプライバシー重視、そして競合他社が到底及ばない高品質なテキストを出力するAIソリューションを提供します。

Private LLMはオフラインで動作し、カジュアルに会話できるデコーダー専用トランスフォーマー（別名GPT）モデルを使用します。また、テキストの段落の要約、創造的なアイデアの生成、幅広いトピックに関する情報提供も可能です。

Private LLMは、Appleデバイス向けの代表的なローカルAIアプリです。オープンソースモデルを完全にオンデバイスで実行し、アカウント、クラウド、サブスクリプションは不要です。ハードウェアに合ったモデルを選べます。ほとんどのiPhoneではLlama 3.2 3BまたはQwen3 4B、iPhone 15 Pro以降ではLlama 3.1 8B、48GBのAppleシリコン搭載MacではLlama 3.3 70Bが動作します。Private LLMはモデルごとに調整したGPTQとOmniQuantの量子化を採用しているため、3ビットOmniQuantモデルは同じハードウェア上でllama.cppベースのアプリの4ビットRTNモデルに匹敵します。1回の購入でiPhone、iPad、Macをカバーし、ファミリー共有で最大6人まで利用できます。

大規模言語モデル（LLM）をデバイス上で実行するには大量のメモリが必要です。モデルを効率よく読み込んで実行するには、十分なRAMが欠かせません。さらに、iPhone、iPad、Macで動いているアプリは、通常Private LLMだけではありません。ほかのアプリ、特にメモリを大量に消費するアプリとシステムリソースを奪い合うことになり、Private LLMのパフォーマンスに影響することがあります。

iPhoneでは、iPhone SE（第2世代、3GB RAM）のような古いデバイスでもLlama 3.2 1BやQwen 2.5 0.5B/1.5Bといった小型モデルを実行できますが、ハードウェアの制約により体験が限られる場合があります。iPhone 12（4GB RAM）以降では、やや大きな3Bモデルも使えるようになり、パフォーマンスが向上します。最高の体験を求めるなら、8GBのRAMを搭載したiPhone 15 Pro以降をおすすめします。これらのデバイスなら、Llama 3.1 8BやQwen 2.5 7Bといった大きなモデルも快適に実行できます。Private LLMは技術的にはiPhone 12より古いデバイスにもインストールできますが、古いハードウェアでは体験が大幅に制限されることがユーザーのフィードバックからわかっているため、現在はそうしたデバイスでのアプリ購入をおすすめしていません。古いデバイスをお使いの方もアプリを購入できますが、サポートや最適なパフォーマンスは保証されません。

iPadでも状況は同様です。4GB以上のRAMを搭載したデバイスでは、ミドルレンジのiPhoneで動作するものに近いモデルを実行できます。最良の結果を得るには、16GB RAMを搭載した最上位のiPad Proが理想的です。Qwen 2.5 14BやGoogle Gemma 2 9Bのような、さらに大きなモデルにも対応できます。その余裕により、iPad ProはPrivate LLMを実行する有力な選択肢になります。

Macでは、Appleシリコンへの移行によりローカルAI性能の新しい基準が生まれました。Private LLMはIntel Macにもインストールできますが、はるかにスムーズな体験のためにAppleシリコン搭載Macの使用を強くおすすめします。8GB RAMのAppleシリコン搭載Macでは、Llama 3.1 8BやQwen 2.5 7Bなど、最新のiPhoneで対応しているものに近いモデルを実行できます。最上位のiPad Proと同じく16GB RAMを搭載したMacでは、Qwen 2.5 14BやGoogle Gemma 2 9Bなど、さらに大きなモデルも扱えます。32GB RAMのMacでは、Phi 4やQwen 2.5 32Bのような大型モデルを実行でき、最高の体験を求めるなら、48GB以上のRAMを搭載したAppleシリコン搭載MacでLlama 3.3 70Bのようなモデルが最適な性能を発揮します。

Private LLMは、幅広いAppleデバイスにローカルAIの力をもたらすように設計されていますが、最高のパフォーマンスを得るには、より多くのメモリを搭載したデバイスを強くお勧めします。デバイスの互換性についてまだ不明な点がある場合や、さらにサポートが必要な場合は、Discordコミュニティに参加して、私たちや他のユーザーとつながりましょう！

Private LLMは、多様な言語ニーズに対応するため、さまざまなモデルを提供しています。ラインナップにはLlama 3、Qwen 2.5、Gemma 3の各ファミリーが含まれ、いずれも複数の言語に対応しています。Llama 3は英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語に強く、Qwen 2.5は中国語、英語、フランス語、スペイン語、ポルトガル語、ドイツ語、イタリア語、ロシア語、日本語、韓国語、ベトナム語、タイ語、アラビア語を含む29以上の言語に対応し、Gemma 3は世界中の140以上の言語をサポートします。英語以外の特定言語に合わせたモデルを探しているユーザー向けに、Private LLMではドイツ語向けのSauerkrautLM Gemma 2 2B IT、ヘブライ語向けのDictaLM 2.0 Instruct、日本語向けのRakutenAI 7B Chat、中国語向けのYi 6B ChatまたはYi 34B Chatなども用意しています。この幅広い選択肢により、ユーザーは自分の言語要件に最も合うモデルを選べます。

Private LLMは、OmniQuantやGPTQといった高度な量子化手法を用い、GPU上で何時間もかけて各モデルを丁寧に量子化することで、優れたテキスト生成の品質とパフォーマンスを実現しています。この綿密な工程によってモデルの重み分布がより正確に保たれ、推論の高速化、モデルの忠実度の向上、より高品質なテキスト生成につながります。当社の3ビットOmniQuantモデルは、他のプラットフォームで使われている4ビットRTN量子化モデルと同等以上の性能を発揮します。Hugging Faceで手軽に入手できるGGUFファイルに対応するアプリとは異なり、Private LLMはモデルを自社で量子化し、速度・精度・品質の面で最適化しています。この徹底したアプローチこそが、Private LLMが有料アプリである理由の1つです。低速で性能の劣るローカルAIチャットアプリと比べて、はるかに高い品質を提供します。

リリースノートのとおり、ユーザーのフィードバックをもとに、Private LLMには新しいモデルを定期的に追加しています。特定のモデルをリクエストするには、Discordコミュニティに参加し、#suggestionsチャンネルに提案を投稿してください。すべてのリクエストに目を通し、要望の多いものを優先して今後のアップデートで検討します。

Private LLMは完全にサンドボックス化されたmacOSアプリで、モデルはアプリのコンテナ内の~/Library/Containers/ie.numen.personalgpt/Data/Library/Application Support/ie.numen.personalgpt/modelsに保存されます。macOS Sequoia以降では、システムの大きなアプリを外部ディスクに移動する機能を利用できます。アプリを移動すると、その中に保存されているモデルも一緒に移動します。Macの内蔵ストレージの空き容量が少なくなってきた場合は、この方法で容量を確保することをおすすめします。

Private LLMは現在、ドキュメントやファイルの読み取り（一般にRAG：検索拡張生成と呼ばれる機能）には対応していません。RAGは外部のドキュメントを使ってモデルの回答を補強する仕組みですが、その効果はコンテキスト長（モデルが1回のプロンプトで処理できるテキストの最大量）に大きく左右されます。コンテキスト長が長いほど詳細で正確な回答が可能になりますが、計算負荷も高くなり、ローカルデバイスではなおさらです。Ollamaのような競合他社のデフォルトのコンテキスト長は通常2kトークン、LM Studioは1500トークンです。これに対しPrivate LLMは、iPhoneとiPadで8Kトークン、Macでは32Kトークンものコンテキスト長を備えており、この点で最も高性能なローカルAIソリューションの1つです。ただし、Private LLMを含め、現在のローカルAIはいずれも、長いテキストを処理する際にハルシネーションという課題を抱えています。膨大な入力や不完全な入力を処理しきれなくなると、モデルが不正確な情報や事実無根の情報を生成してしまうことがあるためです。Private LLMのOmniQuant量子化は、競合他社が使うRTN量子化と比べてハルシネーションを大幅に減らしますが、完全になくせるわけではありません。将来的にはドキュメントの読み取り機能の導入を目指していますが、現時点でRAGに最も信頼できる結果を出せるのはサーバーベースのソリューションです。より長いコンテキスト長と高い計算負荷に対応しやすいためです。

まったくありません。Private LLMはプライバシーを守ることを重視しており、機能はすべてインターネットにアクセスせずオフラインで動作し、リアルタイムデータにもアクセスしません。インターネット接続が必要なのは、アップデートや新しいモデルをダウンロードする場合だけで、その際に個人データが収集、送信、交換されることはありません。私たちのプライバシーに対する考え方は、Appleの厳格なプライバシーとセキュリティのガイドラインに沿っており、アプリは最高水準のデータ保護を維持しています。なお、ユーザーがPrivate LLMはインターネットにアクセスできるか尋ねると、モデルがアクセス可能であるかのようなハルシネーションを返すことがあります。しかし、これらの応答を事実として受け取るべきではありません。Private LLMのプライバシー保護を独自に確認したい場合は、Little Snitchのようなネットワーク監視ツールの利用をおすすめします。これにより、アプリが厳格なプライバシー管理を維持していることをご自身で確認できます。リアルタイム情報を利用したい場合、Private LLMはApple Shortcutsに対応しており、RSSフィード、Webページ、さらにはカレンダー、リマインダー、メモなどのアプリからデータを取得できます。この機能により、オフラインかつプライバシー優先という方針を保ちながら、最新のデータをPrivate LLMとのやり取りに取り込めます。ご質問やさらに詳しい説明が必要な場合は、どうぞお気軽にお問い合わせください。

はい。ローカルLLMでは、プロンプトと会話がデバイス上で処理され、サーバーに送信されることはありません。そのため、通信中に傍受されるものも、他社のクラウドに残るチャット履歴もありません。Private LLMはアカウント不要で個人データを収集せず、AppleのApp Storeサンドボックス内で動作します。法務、医療、機密性の高いビジネス上の質問など、扱いに注意が必要な作業では、推論をデバイス上で完結させることで、クラウドAIにつきものの情報漏えいリスクを避けられます。ローカルLLMでも誤りやハルシネーションは起こり得るため、重要な回答は確認してください。

Private LLMは、長いテキストの段落を数秒で分析して要約できます。コンテンツを貼り付けるだけで、AIがすべてオフラインで簡潔な要約を生成します。以下のようなプロンプトを使用して、リライトや言い換えにPrivate LLMを使用することもできます：

• 次の内容を手短に要約して：[ここにコンテンツを貼り付け]
• あなたは熟練したコピーライターです。以下を自分の言葉で言い換えてください：[コンテンツを貼り付け]
• 以下のテキストを、より独創的に聞こえるように言い換えてください：[コンテンツを貼り付け]

もちろんです。Private LLMは提案やアイデアを生成できるため、ブレインストーミングや問題解決に役立ちます。Private LLMに試せるブレインストーミング用プロンプトの例をいくつか紹介します。自由に試して、自分だけのプロンプトも作ってみてください。

• SF小説のテーマ案をいくつか出してくれませんか？
• ヴィーガン向けのファストフード店を開こうと考えています。このアイデアの弱点は何ですか？
• PMF（プロダクトマーケットフィット）を達成した製品を1つ持つ、設立2年のソフトウェア開発スタートアップを運営しています。これまでとはまったく異なる市場に新しいソフトウェア製品を投入する予定です。6つの帽子思考法を使ってこれを分析してください。
• ゴールデンサークルモデルを活用して、経営コンサルティングビジネスのための強力なブランドを作成してください。

サンプリングのTemperatureとTop-Pは、すべての自己回帰型因果デコーダー専用トランスフォーマー（別名GPT）モデルの汎用的な推論パラメータであり、Private LLM固有のものではありません。アプリでは妥当なデフォルト値（Temperatureは0.7、Top-Pは0.95）に設定されていますが、いつでも調整して結果を確認できます。これらのパラメータの変更は、アプリを再起動するまで反映されないことに注意してください。

これらのパラメータは、決定論的なテキスト生成と創造性の間のトレードオフを制御します。値を低くすると単調ながら一貫性のある回答に、値を高くすると創造的ながら時に支離滅裂な回答になります。

はい。Private LLMには、SiriおよびShortcutsアプリで使用できる2つのアプリインテントがあります。Shortcutsアプリ内でPrivate LLMを探してください。さらに、Private LLMは x-callback-url 仕様もサポートしており、これは Shortcuts や他の多くのアプリでもサポートされています。Private LLMのx-callback-url機能を使用した ショートカットの例 はこちらです。

バックグラウンド処理に関するiOSとmacOSの機能差は、主にAppleのハードウェア使用ポリシーに由来します。iOSでは、GPUを集中的に使うタスクのバックグラウンド実行がAppleによって制限されています。この制限は、バッテリー寿命を保ち、システム性能を維持するために設けられています。Appleのガイドラインによると、バックグラウンドでMetalカーネルを実行しようとするアプリは、許可されていないリソース使用を防ぐために即座に終了されます。Private LLMでは、macOSではGPUを活用してバックグラウンドで処理を実行できますが、iOS版ではアプリがフォアグラウンドにない場合、CPU処理に制限されます。Private LLMのAI駆動タスクをCPUで実行することは技術的には可能ですが、GPU処理と比べて10倍以上遅くなります。そのCPU依存の速度は、私たちが提供したい体験ではありません。将来のiOSアップデートで、Private LLMのようなアプリに対するGPUアクセスの可能性を含め、バックグラウンドプロセスがシステムリソースを利用する方法にもう少し柔軟性が生まれることを期待しています。それまでは、現在の制約の中でiOSアプリの最適化を続け、デバイスの健全性やアプリの効率を損なわずに、できる限り高い性能を得られるようにします。詳しい技術情報については、Metalアプリをバックグラウンドで実行する準備に関するAppleの公式ドキュメントを参照してください：Apple Developer Documentation。

iOS 26では、新しいバックグラウンドGPUアクセス権限（com.apple.developer.background-tasks.continued-processing.gpu）が導入されました。ただし、これはアプリ内からの直接的なユーザー操作（タップ、スワイプなど）の後にのみ有効になるため、ショートカットからローカルLLMを完全にバックグラウンドで実行することはできません。

一度購入すれば、すべてのAppleデバイスでPrivate LLMをダウンロードして使用できます。ファミリー共有をサポートしているため、家族と共有することも可能です。

返金を検討されているとのこと、残念です。Apple App Storeを通じて返金をリクエストできます。Appleアカウントの購入履歴に移動し、Private LLMを見つけて「問題を報告する」をクリックして返金プロセスを開始してください。また、どのように改善できるかについて、ぜひご意見をお聞かせください。フィードバックを添えてお問い合わせください。

Private LLMでモデルをうまくダウンロードできない場合、多くは当社のモデルがホストされているHugging Faceとの一時的な接続障害が原因です。Hugging Faceのステータスページで、現在障害が発生していないかすぐに確認できます。また、企業や学校、国によるファイアウォールのネットワーク制限でHugging Faceへのアクセスが制限され、ダウンロードに影響することもあります。そうしたネットワークをお使いの場合は、自宅のWi-Fiやモバイルホットスポットに切り替えるか、VPNを使ってこれらの制限を回避することをおすすめします。

中国または香港のユーザーの場合、デバイスのロケールがこれらの地域に設定されていると、Private LLMは自動的にhf-mirror.comに切り替わり、ダウンロードの信頼性を向上させます。これにより、追加のセットアップなしでスムーズなアクセスを確保できます。

接続を確認しても問題が解決しない場合は、アプリまたはデバイスを再起動してみてください。それでも問題が続く場合は、Discordコミュニティに参加し、サポートチャンネルで詳しい状況を教えてください。いつでもトラブルシューティングのお手伝いをします！

Private LLMでモデルを読み込もうとすると、「モデルの読み込み中にクラッシュしたため、組み込みモデルにフォールバックします」というエラーメッセージが表示されることがあります。これは通常、選択したモデルを読み込むための十分なメモリがデバイスにない場合に発生します。こうしたクラッシュは、デバイスのRAMが限られている、ほかのアプリがバックグラウンドで大量のメモリを使用している、またはリソースを大量に消費する複数のプロセスが同時に実行されている、といった理由で起こります。この問題を解決するには、まずメモリを大量に消費するバックグラウンドアプリを閉じてみてください。Private LLMを再起動しても問題が解決しない場合は、より小さなモデルに切り替えるか、デバイスを再起動してメモリをクリアするか、モデルの推奨RAM要件をデバイスが満たしているかを確認してください。これらの方法を試してもクラッシュが続く場合は、デバイスの性能に合った、より小さなモデルの使用を検討してください。

デバイスのメモリ不足、またはPrivate LLMに与えられたタスクが特に複雑な場合に発生する可能性があります。そのような場合は、バックグラウンドで実行されているメモリを大量に消費するアプリを閉じるか、リクエストをLLMが処理しやすい小さなタスクに分割してみてください。後者の場合は、「続けて」「続きを」「教えて」と返信するだけでもうまくいきます。

はい、Private LLMはAndroid向けにも早期ベータ版として提供を開始しました！引き続きAppleデバイスで最高のAI体験を届けることに注力しつつ、プライバシーとオフラインAIを重視するより多くのユーザーのためにAndroidへも展開しています。Android版は現在、APKの直接ダウンロードで提供しており（Google Playストアではまだ配信していません）、iOS/macOS版の主要機能の多くを備えています。早期ベータ版のため、より成熟したAppleプラットフォーム版と比べて、一部の制限や動作の不安定さが生じる場合があります。ぜひDiscordコミュニティに参加して、フィードバックの共有や問題の報告を通じてAndroid版の改善にご協力ください。Google Playストアでの正式リリースに向けて、この段階でいただくご意見は非常に貴重です。APKは当社のウェブサイトからダウンロードできます。