Ling 3.1 Flash : MoE de 560B avec 25B actifs, contexte de 1M de tokens et licence MIT
Nouveaux modèlesArticles connexes
Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM
Ling 3.1 Flash apporte 560B de paramètres open-weight sous licence MIT avec 1M de contexte. Il ne rentre pas dans 24 Go de VRAM, mais les quantifications, le MoE 25B actifs et les vrais chiffres changent le calcul.
Mac Studio M5 Ultra : 512 Go de mémoire unifiée sur le bureau
Quatre dies, 512 Go de mémoire unifiée à 1,2 To/s : le Mac Studio M5 Ultra fait tourner les MoE de 100 à 560B en local. Les calculs de vitesse, le comparatif de coût avec la DGX Station et quand le Mac est le bon choix.
Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF
Le Mac Studio 512 Go fait tenir un MoE de 560B en 4 bit avec un large contexte. Dans ce guide : la règle des 4 bit, l’installation GGUF en trois voies, le vrai goulot d’étranglement (le cache KV) et le comparatif de coût Mac vs API, chiffres à l’appui.
Recevez le prochain point IA locale
Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.
Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.