Aller au contenu principal
← Retour aux actualités

Mistral Large 4 : un MoE d’un trillion de paramètres, 49 Md actifs, en open-weight

Nouveaux modèles
Source:Hugging Face (Mistral AI)
Mistral publie en Open-weight son plus grand modèle : 1 000 Md de paramètres au total, ~49 Md actifs par Token (52 Md avec embed et output), nativement multimodal, jusqu’à 1 M de tokens de contexte, licence Mistral Ecosystem Open-weight (variante de la licence MIT ; le Model-as-a-Service exige une licence commerciale séparée).
Lire l'article original

Articles connexes

Agenti on-device per il telefono: cosa portano davvero i mobile agent open (dopo OpenMobile-2)

OpenMobile-2 apre ambienti e ricette di training per agenti mobili, e LFM3-1.7B mostra che un agente da 1,7GB gira già sul telefono: numeri, requisiti minimi e limiti onesti.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🤖

Mistral Large 4 (1T-A52B)

Modèles

Le plus grand modèle open-weight de Mistral : MoE nativement multimodal d'un trillion de paramètres au total, ~49 Md actifs par token (52 Md avec embed et output), jusqu'à 1 M de tokens de contexte. Entraîné de zéro sur 3 800 NVIDIA Grace Blackwell. Licence Mistral Ecosystem Open-Weight (variante de la MIT) : usage commercial ok ; un business Model-as-a-Service exige une licence commerciale séparée.

🌊

Mistral Small 4

Modèles

Il modello della linea Small di Mistral, ora MoE: 119B di parametri totali con 6,5B attivi per token (128 esperti, 4 attivi). Unifica instruct, reasoning e coding in un unico modello multimodale (testo+immagini) con contesto 256K. Licenza Apache 2.0.

🌏

inclusionAI Ling 3.1 Flash (MoE)

Modèles

Modello MoE open-weight di inclusionAI: 560B parametri totali, 25B attivi per token, architettura ibrida (attenzione lineare KDA + Gated MLA), finestra di contesto fino a 1M di token, licenza MIT. Reasoning ibrido con modalità di pensiero on/off. A 4 bit entra in 512GB di memoria unificata.

🐑

Llama 4 Maverick (MoE)

Modèles

Il modello MoE grande della famiglia Llama 4 di Meta: 400B di parametri totali con 17B attivi (128 esperti). Contesto 1M di token, nativamente multimodale (testo+immagini), licenza comunitaria Meta. Richiede multi-GPU o macchine con memoria unificata 128GB+ anche quantizzato.

Parcourir toutes les ressources