Vai al contenuto principale
Torna alle risorse
Modelli🌱

Bonsai-2 27B

Pubblicato il 25 set 2026

Modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare). In GGUF PTQ1_0 occupa 5,95 GB, mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max, con contesto da 262K token. Licenza Apache 2.0. Richiede la fork llama.cpp di Prism ML (i kernel ternari non sono in llama.cpp stock).

Caratteristiche

  • 27,36B ternari (1,72 bit/peso)
  • 5,95 GB PTQ1_0 / 7,21 GB PQ2_0
  • Contesto 262K
  • Attenzione ibrida ~75% lineare
  • 98,2% intelligenza FP16
  • Apache 2.0

Cronologia delle versioni

  1. Bonsai-2 27BAttuale

    Modello di ragionamento 27B ternario (g128, 1,72 bit/peso) derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare): 5,95 GB in PTQ1_0, contesto 262K, 98,2% dell'intelligenza FP16, ~47 tok/s su M5 Max. Richiede la fork llama.cpp di Prism ML.

Tag

Link Utili

Scopri Bonsai-2 27B

Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Bonsai-2 27B.

Visita il sito

Risorse Correlate — Modelli

Modelli⚡
DeepSeek V4.1 Flash
Pubblicato il 10 set 2026DeepSeek V4.1 Flash

Modello MoE di DeepSeek con 552B di parametri totali e 8-16B attivi per token. Contesto da 1M di token, licenza MIT: uso commerciale libero. Pensato per il serving in linea, troppo grande per un uso locale su un singolo PC.

LLMDeepSeekMoEOpen Source
Modelli⚡
FLUX.1 [dev]
Pubblicato il 1 ago 2024FLUX.2 [klein] 4B/9B

Il modello di immagini aperto più avanzato: aderenza al prompt eccellente, anatomia solida e fine-tuning completo. Lo standard per chi fa serio.

ImmaginiDiffusionFLUX
Modelli⚡
FLUX.1 [schnell]
Pubblicato il 1 ago 2024FLUX.2 [klein] 4B/9B

Generazione in pochissimi step con qualità alta e ottimo rendering del testo. La versione distillata di FLUX, pensata per la velocità.

ImmaginiDiffusionFLUX