Modèle dense
Types de modèlesUn modèle où chaque jeton traverse tous les paramètres : il n'y a pas de sélection d'experts, toute la capacité est active à chaque pas. Plus coûteux à décoder qu'un MoE de taille totale comparable, mais sans routage des experts. Exemple : Qwen3.8-27B.
Articles liés
- Qwen3.8-27B vs Gemma 4 26B A4B: la nuova frontiera a 24GBComparaisons · 9 octobre 2026 · 6 min de lecture
- MiniCPM-V 4.7: il MoE da 35B che gira sullo smartphone con 3 GB di RAMModèles · 21 octobre 2026 · 8 min de lecture
- Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in localeModèles · 18 octobre 2026 · 8 min de lecture