Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.
Bonsai-2 27B
Publié le 25 sept. 2026
Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).
Caractéristiques
- 27,36B ternaires (1,72 bit/poids)
- 5,95 Go PTQ1_0 / 7,21 Go PQ2_0
- Contexte 262K
- Attention hybride ~75 % linéaire
- 98,2 % intelligence FP16
- Apache 2.0
Historique des versions
- Bonsai-2 27BActuelle
Modello di ragionamento 27B ternario (g128, 1,72 bit/peso) derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare): 5,95 GB in PTQ1_0, contesto 262K, 98,2% dell'intelligenza FP16, ~47 tok/s su M5 Max. Richiede la fork llama.cpp di Prism ML.
Tags
Liens utiles
Découvrir Bonsai-2 27B
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Bonsai-2 27B.
Ressources liées — Modèles
Le modèle d'images open le plus avancé : adhérence au prompt excellente, anatomie solide et fine-tuning complet. La référence pour les usages sérieux.
Génération en très peu d'étapes avec une haute qualité et un excellent rendu du texte. La version distillée de FLUX, pensée pour la vitesse.

