Vai al contenuto
Private LLM
Tema

Prova Private LLM 2 su iPhone, iPad e Mac

I modelli continuano a funzionare sul tuo dispositivo. Ora accettano input multimodali e cercano nei tuoi documenti con RAG sul dispositivo.

Per l'accesso anticipato, apri l'app Private LLM e vai su Settings > About.

Scarica sull'App Store

Richiede iOS 26 o iPadOS 26 su un iPhone o iPad con chip A14 o successivo, oppure macOS 26 su un Mac con Apple Silicon. Ternary Bonsai 2 27B richiede un iPhone con 12 GB di memoria.

Una chat di Private LLM 2 in cui Ternary Bonsai 2 27B risponde a una domandaUna chat di Private LLM 2 in cui Ternary Bonsai 2 27B risponde a una domanda

Bonsai 2 27B funziona su un iPhone 17 Pro

Private LLM 2 esegue modelli che altre app di IA locale ritengono impossibili da eseguire su iPhone. Ternary Bonsai 2 27B, un modello a 2 bit, gira su un iPhone 17 Pro.

Novità di Private LLM 2

  • Modelli che usano gli strumenti

    I modelli che supportano le chiamate agli strumenti possono eseguire JavaScript sul tuo dispositivo e questo strumento è attivo di default. La ricerca web e il recupero delle pagine sono facoltativi e li attivi tu. Nulla di tutto questo esiste nell'attuale app Private LLM.

    Una chat di Private LLM 2 in cui il modello chiama uno strumento e risponde con il suo risultatoUna chat di Private LLM 2 in cui il modello chiama uno strumento e risponde con il suo risultato

  • Chat con i tuoi documenti

    Allega un file PDF, di testo normale o Markdown prima del primo messaggio e Private LLM 2 lo indicizza e lo cerca sul tuo dispositivo. La chat con i documenti richiede un modello con supporto degli strumenti.

    Un PDF allegato a una chat di Private LLM 2, con una risposta tratta dal documentoUn PDF allegato a una chat di Private LLM 2, con una risposta tratta dal documento

  • Allega foto e file audio

    Puoi allegare foto e immagini ai modelli di visione, che in questa beta sono Gemma 4, Qwen3.5, Bonsai e North Micro Vision, e i modelli Gemma 4 accettano anche file audio. Per questa funzione, alcuni modelli più grandi richiedono un dispositivo con più memoria.

    Una foto allegata a una chat di Private LLM 2, con un modello di visione che la descriveUna foto allegata a una chat di Private LLM 2, con un modello di visione che la descrive

  • Nuovi modelli da provare

    Gemma 4 e Qwen3.5 sono nuove generazioni di Gemma e Qwen. Granite 4.1, Bonsai, MiniCPM5, North e Lizzy sono nuove famiglie, e Bonsai include un modello ternario da 27B. Sui dispositivi supportati, Gemma 4 genera più velocemente con la decodifica speculativa e, nei modelli con capacità di ragionamento, puoi impostare lo sforzo di ragionamento su cinque livelli. La selezione potrebbe cambiare durante la beta.

    L'elenco dei modelli di Private LLM 2, con prima i modelli consigliati, poi le sezioni Gemma 4 e Qwen3.5L'elenco dei modelli di Private LLM 2, con prima i modelli consigliati, poi le sezioni Gemma 4 e Qwen3.5

  • Gli strumenti web restano disattivati finché non li attivi

    Gli strumenti web sono disattivati di default, per un motivo semplice: una ricerca web non può avvenire senza inviare qualcosa all'esterno. Quando li attivi, la tua query di ricerca o l'indirizzo della pagina lascia il tuo dispositivo. La prima volta scegli dove inviarli. Auto li invia a un provider di ricerca di terze parti, con la ricerca diretta dal tuo dispositivo come alternativa. La modalità solo sul dispositivo evita il provider per la ricerca web e il recupero delle pagine, ma contatta comunque il motore di ricerca e i siti web stessi.

    L'opzione di Private LLM 2 che imposta dove vengono eseguite le ricerche web la prima volta che si attiva l'accesso al webL'opzione di Private LLM 2 che imposta dove vengono eseguite le ricerche web la prima volta che si attiva l'accesso al web

Come ottenere la beta

  1. Scarica Private LLM dall'App Store o aggiornalo se lo possiedi già.
  2. Vai su Settings > About > Private LLM 2. Il link viene visualizzato su iOS 26, iPadOS 26 e macOS 26 con Apple Silicon.
  3. Tocca Private LLM 2 per aprire TestFlight, quindi installa la beta.

Private LLM 2 è un'app separata. Si installa accanto all'attuale app Private LLM e le tue chat e i tuoi modelli non vengono trasferiti, quindi dovrai scaricare di nuovo un modello.

Private LLM 2 è un aggiornamento gratuito per chiunque possieda Private LLM.

Scarica sull'App Store

Raccontaci cosa non funziona

Questa è una beta e probabilmente qualcosa non funzionerà. Invia feedback tramite TestFlight, dove puoi allegare screenshot, oppure parlane con noi su Discord.

Discord