Blog
Articles, guides et analyses sur l'intelligence artificielle locale
8 articles trouvés per "qwen"

Qwen3.8-2.4T-A95B : les comptes pour faire tourner 2,4 billions de paramètres open-weight, 95B actifs
Le premier modèle de la classe Qwen-Max en open-weight (2,4T de paramètres, 95B actifs) dépasse tout nœud grand public : calculs sur poids, matériel multi-nœud, amortissement sur 36 mois et coûts d'électricité, et quand ça a du sens en local.

Décodage spéculatif et MTP : la vitesse sans compromis
Le décodage spéculatif accélère l'IA locale sans changer la qualité de la sortie : un modèle esquisse les jetons, le grand modèle les vérifie. Voici comment fonctionne le schéma-verification, les têtes MTP de Qwen, EAGLE sur Mistral Medium 3.5 et comment activer le tout en trois commandes.

Qwen3.8-27B vs Gemma 4 26B A4B : la nouvelle frontière à 24 Go
Dense de 27,8 Md ou MoE avec 3,8 Md actifs, un contexte de 262K contre 256K et presque le même poids en Q4_K_M : deux façons opposées d'apporter la qualité d'un grand modèle sur une carte grand public de 24 Go. Qui va plus vite, qui va plus en profondeur, et quand choisir l'un ou l'autre.

Modèles d'images en local : de SDXL à Qwen-Image
Des 2,6B de paramètres de SDXL aux 7B de Qwen-Image 2.1 : fonctionnement des diffusion models, VRAM réellement nécessaire et quel modèle choisir selon votre matériel.

KV cache : pourquoi la RAM sert à plus que le seul modèle
Ce qu'est la KV cache, la formule pour la calculer avec les chiffres de Llama 3.1 8B et Qwen3 8B, et les trois leviers pour la gérer : contexte, quantisation et flash attention.

Qwen-Image 2.1 : générer et éditer des images en local
Qwen-Image 2.1 unifie génération à partir de texte, édition et transparence RGBA dans un modèle open de 7B (DiT de 32 couches). Setup local avec diffusers, support natif dans ComfyUI, besoins en VRAM (~14Go en bfloat16) et cas d'usage (stickers, photos de produit, workflows de design).

Quantification : tirer davantage du même matériel
La quantification réduit la précision des poids (de FP16 à 4-8 bits) pour faire entrer les modèles dans moins de VRAM et générer plus de tokens par seconde. Niveaux, tailles réelles de Qwen2.5 14B, règle de choix à partir de Q4_K_M et limites (code, raisonnement, langues autres que l'anglais).

Qwen : le modèle open au meilleur support multilingue
Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.

