Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
4 articoli trovati per "open-weight"

Qwen3.8-2.4T-A95B: i conti per girare 2,4 trilioni di parametri open-weight, con 95B attivi
Il primo modello della classe Qwen-Max in open-weight (2,4T parametri, 95B attivi) supera qualsiasi nodo consumer: i calcoli per pesi, hardware multi-nodo, ammortamento su 36 mesi e costi di corrente, e quando ha senso farlo in locale.

Mistral Large 4 in open-weight: un MoE da 1T (52B attivi) per l'inferenza on-premise
Mistral ha pubblicato Large 4 in open-weight (1,03T totali, 52B attivi, 1M di contesto, licenza open-weight): un articolo che insegna a leggere le specifiche MoE e a fare i conti di RAM, quantizzazione e velocità per l'inferenza on-premise.

Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM
Ling 3.1 Flash di inclusionAI: MoE ibrido 560B totali / 25B attivi, contesto nativo 1M token, checkpoint FP8, licenza MIT. Cosa significa concretamente per chi ha 24GB di VRAM: quantaggi, parallelismo e costi API.

Kolibri di Aleph Alpha: il MoE da 78B che gira (quasi) in locale
Kolibri (78.1B/3.46B, Apache 2.0, FP8) di Aleph Alpha è il MoE europeo open-weight: reasoning, tool calling e contesto fino a 1M token. In FP8 pesa ~78GB di VRAM: gira su RTX 5090 32GB + RAM condivisa o su Mac a memoria unificata; per l'adozione pratica mancano ancora l'architettura kolibri1 in llama.cpp e i build di Ollama/LM Studio.

