Перейти к содержимому
Private LLM
Тема

Попробуйте Private LLM 2 на iPhone, iPad и Mac

Модели по-прежнему работают на вашем устройстве. Теперь они принимают мультимодальные данные и ищут по вашим документам с помощью RAG на устройстве.

Чтобы получить ранний доступ, откройте приложение Private LLM и перейдите в Settings > About.

Скачать в App Store

Требуется iOS 26 или iPadOS 26 на iPhone или iPad с чипом A14 или новее либо macOS 26 на Mac с Apple Silicon. Для Ternary Bonsai 2 27B нужен iPhone с 12 ГБ памяти.

Чат Private LLM 2, в котором Ternary Bonsai 2 27B отвечает на вопросЧат Private LLM 2, в котором Ternary Bonsai 2 27B отвечает на вопрос

Bonsai 2 27B работает на iPhone 17 Pro

Private LLM 2 запускает модели, которые другие приложения с локальным ИИ считают невозможными для запуска на iPhone. Ternary Bonsai 2 27B, 2-битная модель, работает на iPhone 17 Pro.

Что нового в Private LLM 2

  • Модели с поддержкой инструментов

    Модели, поддерживающие вызов инструментов, могут запускать JavaScript на вашем устройстве, и этот инструмент включен по умолчанию. Веб-поиск и загрузка страниц необязательны, и вы включаете их сами. Ничего из этого нет в текущем приложении Private LLM.

    Чат Private LLM 2, в котором модель вызывает инструмент и отвечает его результатомЧат Private LLM 2, в котором модель вызывает инструмент и отвечает его результатом

  • Чат с вашими документами

    Прикрепите файл PDF, обычного текста или Markdown до первого сообщения, и Private LLM 2 проиндексирует его и будет искать по нему на вашем устройстве. Для чата с документами нужна модель с поддержкой инструментов.

    PDF, прикрепленный к чату Private LLM 2, с ответом на основе документаPDF, прикрепленный к чату Private LLM 2, с ответом на основе документа

  • Прикрепляйте фотографии и аудио

    К моделям с поддержкой зрения можно прикреплять фотографии и изображения. В этой бета-версии это Gemma 4, Qwen3.5, Bonsai и North Micro Vision, а модели Gemma 4 также принимают аудиофайлы. Некоторым крупным моделям для этого нужно устройство с большим объемом памяти.

    Фотография, прикрепленная к чату Private LLM 2, которую описывает модель с поддержкой изображенийФотография, прикрепленная к чату Private LLM 2, которую описывает модель с поддержкой изображений

  • Новые модели для знакомства

    Gemma 4 и Qwen3.5 - новые поколения Gemma и Qwen. Granite 4.1, Bonsai, MiniCPM5, North и Lizzy - новые семейства, а Bonsai включает троичную модель на 27B. На поддерживаемых устройствах Gemma 4 генерирует быстрее благодаря спекулятивному декодированию, а для моделей с рассуждениями можно выбрать усилие рассуждений на одном из пяти уровней. Список моделей может меняться во время бета-тестирования.

    Список моделей Private LLM 2: сначала рекомендуемые модели, затем разделы Gemma 4 и Qwen3.5Список моделей Private LLM 2: сначала рекомендуемые модели, затем разделы Gemma 4 и Qwen3.5

  • Веб-инструменты выключены, пока вы их не включите

    Веб-инструменты по умолчанию выключены по простой причине: веб-поиск невозможен без отправки данных наружу. Когда вы их включаете, ваш поисковый запрос или адрес страницы покидает устройство. При первом включении вы выбираете, куда он отправляется. Автоматический режим отправляет его стороннему поисковому провайдеру, а при недоступности использует прямой поиск с вашего устройства. Режим только на устройстве пропускает провайдера для веб-поиска и загрузки страниц, но все равно обращается к поисковой системе и самим сайтам.

    Настройка Private LLM 2, определяющая, куда отправляются веб-поиски при первом включении доступа к интернетуНастройка Private LLM 2, определяющая, куда отправляются веб-поиски при первом включении доступа к интернету

Как получить бета-версию

  1. Скачайте Private LLM в App Store или обновите приложение, если оно у вас уже есть.
  2. Откройте Settings > About > Private LLM 2. Ссылка отображается в iOS 26, iPadOS 26 и macOS 26 на Mac с Apple Silicon.
  3. Нажмите Private LLM 2, чтобы открыть TestFlight, затем установите бета-версию.

Private LLM 2 - отдельное приложение. Оно устанавливается рядом с текущим приложением Private LLM, а ваши чаты и модели не переносятся, поэтому потребуется снова скачать модель.

Private LLM 2 - бесплатное обновление для всех владельцев Private LLM.

Скачать в App Store

Сообщите нам, что не работает

Это бета-версия, и что-то наверняка сломается. Отправьте отзыв через TestFlight, где можно прикрепить снимки экрана, или свяжитесь с нами в Discord.

Discord