iPhone、iPad、MacでPrivate LLM 2を試す

Bonsai 2 27BがiPhone 17 Proで動作

Private LLM 2は、ほかのローカルAIアプリではiPhoneでの実行は不可能とされるモデルを動かします。2ビットモデルのTernary Bonsai 2 27Bは、iPhone 17 Proで動作します。

Private LLM 2の新機能

• ツールを使うモデル

  ツール呼び出しに対応するモデルは、デバイス上でJavaScriptを実行できます。このツールはデフォルトでオンです。Web検索とページ取得は任意で、自分でオンにします。これらの機能はいずれも、現在のPrivate LLMアプリにはありません。

  

• ドキュメントとチャット

  最初のメッセージの前にPDF、プレーンテキスト、またはMarkdownファイルを添付すると、Private LLM 2がデバイス上でインデックスを作成し、検索します。ドキュメントチャットにはツール対応モデルが必要です。

  

• 写真と音声を添付

  ビジョンモデルには写真や画像を添付できます。このベータではGemma 4、Qwen3.5、Bonsai、North Micro Visionが該当し、Gemma 4モデルは音声ファイルも受け付けます。一部の大規模モデルでは、この機能にメモリ容量の多いデバイスが必要です。

  

• 試せる新しいモデル

  Gemma 4とQwen3.5は、GemmaとQwenの新世代です。Granite 4.1、Bonsai、MiniCPM5、North、Lizzyは新しいファミリーで、Bonsaiには27Bの3値モデルが含まれます。対応デバイスでは、Gemma 4は投機的デコーディングにより高速に生成し、推論するモデルでは推論の強度を5段階で設定できます。ベータ期間中にラインナップが変わる場合があります。

  

• オンにするまでWebツールはオフ

  Webツールがデフォルトでオフなのには、単純な理由があります。何かを外部に送信せずにWeb検索はできないからです。オンにすると、検索クエリまたはページのアドレスがデバイスの外に送信されます。初回に、送信先を選びます。自動ではサードパーティの検索プロバイダに送信し、利用できない場合はデバイスから直接検索します。オンデバイス限定モードでは、Web検索とページ取得でプロバイダを使いませんが、検索エンジンとWebサイト自体には引き続き接続します。

  

ベータ版の入手方法

1. App StoreからPrivate LLMを入手するか、すでにお持ちの場合はアップデートしてください。
2. 「Settings」>「About」>「Private LLM 2」に移動します。このリンクは、iOS 26、iPadOS 26、およびApple Silicon搭載MacのmacOS 26で表示されます。
3. Private LLM 2をタップしてTestFlightを開き、ベータ版をインストールしてください。

Private LLM 2は別アプリです。現在のPrivate LLMアプリと並行してインストールされ、チャットとモデルは引き継がれないため、モデルを再度ダウンロードする必要があります。

Private LLM 2は、Private LLM所有者全員が無料でアップグレードできます。