iPhone, iPad, Mac에서 Private LLM 2 사용해 보기

Bonsai 2 27B, iPhone 17 Pro에서 실행

Private LLM 2에서는 다른 로컬 AI 앱이 iPhone에서 실행할 수 없다고 여기는 모델도 실행됩니다. 2비트 모델인 Ternary Bonsai 2 27B는 iPhone 17 Pro에서 실행됩니다.

Private LLM 2의 새로운 기능

• 도구를 사용하는 모델

  도구 호출을 지원하는 모델은 기기에서 JavaScript를 실행할 수 있으며, 이 도구는 기본으로 켜져 있습니다. 웹 검색과 페이지 가져오기는 선택 사항이며, 직접 켤 수 있습니다. 현재 Private LLM 앱에는 이 기능들이 없습니다.

  

• 문서와 채팅하기

  첫 메시지를 보내기 전에 PDF, 일반 텍스트 또는 Markdown 파일을 첨부하면 Private LLM 2가 기기에서 파일을 색인화하고 검색합니다. 문서 채팅에는 도구를 지원하는 모델이 필요합니다.

  

• 사진과 오디오 첨부하기

  비전 모델에 사진과 이미지를 첨부할 수 있습니다. 이번 베타에서는 Gemma 4, Qwen3.5, Bonsai, North Micro Vision이 해당하며, Gemma 4 모델은 오디오 파일도 받을 수 있습니다. 일부 더 큰 모델은 이를 위해 메모리가 더 많은 기기가 필요합니다.

  

• 새로 사용해 볼 모델

  Gemma 4와 Qwen3.5는 Gemma와 Qwen의 새 세대입니다. Granite 4.1, Bonsai, MiniCPM5, North, Lizzy는 새 계열이며, Bonsai에는 27B 삼진 모델이 포함됩니다. 지원되는 기기에서는 Gemma 4가 추측 디코딩으로 더 빠르게 생성하며, 추론하는 모델에서는 추론 강도를 5단계로 설정할 수 있습니다. 베타 기간 중 모델 구성이 바뀔 수 있습니다.

  

• 직접 켜기 전까지 웹 도구는 꺼져 있습니다

  웹 도구는 기본으로 꺼져 있습니다. 이유는 간단합니다. 무언가를 외부로 보내지 않고는 웹 검색을 할 수 없습니다. 웹 도구를 켜면 검색어 또는 페이지 주소가 기기를 벗어납니다. 처음 사용할 때 전송 위치를 선택합니다. 자동 설정은 제3자 검색 제공업체로 전송하며, 대안으로 기기에서 직접 검색합니다. 기기 전용 모드는 웹 검색과 페이지 가져오기에서 제공업체를 건너뛰지만, 검색 엔진과 웹사이트 자체에는 계속 연결됩니다.

  

베타 받는 방법

1. App Store에서 Private LLM을 받거나, 이미 소유하고 있다면 업데이트하세요.
2. Settings > About > Private LLM 2로 이동하세요. 이 링크는 iOS 26, iPadOS 26, 그리고 Apple Silicon Mac의 macOS 26에서 표시됩니다.
3. Private LLM 2를 탭해 TestFlight를 연 다음 베타를 설치하세요.

Private LLM 2는 별도의 앱입니다. 현재 Private LLM 앱과 함께 설치되며, 채팅과 모델은 이전되지 않으므로 모델을 다시 다운로드할 계획을 세우세요.

Private LLM 2는 Private LLM을 소유한 모든 사용자를 위한 무료 업그레이드입니다.