Strumenti, framework e modelli per l'IA locale
56 risorse in Modelli
Modello di decisione System 1 da 11,4 MB (un file), costruito su un encoder testuale e5-small-v2. Picco di memoria residua di 128 MB, gira su CPU. Dato uno stato e domande tipizzate, restituisce una probabilità calibrata per opzione in un solo passaggio, senza generare token. Inglese-only.
Modello musicale open più recente con controllo eccellente su testi e stili: genera canzoni complete con lyrics in molte lingue, incluso l'italiano.
Modello decisionale open da 35B parametri (3B attivi) di Autotrust, fine-tune di Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza bisogno di inferenza frontier.
Il modello decisionale da 9B di Bespoke Labs: gira interamente in locale via Ollama 0.35 e risponde a domande tipizzate (vero/falso, scala numerica, scelta multipla) con la nuova API systemone. Pensato per la classificazione rapida in pipeline automatizzate, senza cloud.
Modello di ragionamento da 27B con pesi ternari a 1,72 bit per peso, derivato da Qwen3.8-27B con attenzione ibrida (~75% lineare). In GGUF PTQ1_0 occupa 5,95 GB, mantiene il 98,2% dell'intelligenza FP16 e arriva a ~47 tok/s su un laptop Apple M5 Max, con contesto da 262K token. Licenza Apache 2.0. Richiede la fork llama.cpp di Prism ML (i kernel ternari non sono in llama.cpp stock).
Modello di decisione multimodale da 27B (base Qwen3.8-27B) di Cloudflare: legge uno stato (testo, JSON, immagini, video) e uno schema di domande tipizzate e restituisce una probabilità per ogni opzione in una sola passata, senza generazione di testo. Compatibile con l'API Jev e SystemOne.
Modello MoE di DeepSeek con 552B di parametri totali e 8-16B attivi per token. Contesto da 1M di token, licenza MIT: uso commerciale libero. Pensato per il serving in linea, troppo grande per un uso locale su un singolo PC.
Modello di immagini da 5,6B open weights per testo-in-immagine, editing con riferimento e composizione multi-riferimento in un solo modello, con box di posizionamento nel prompt. Test encoder Qwen3-VL-4B. In BF16 (11,1 GB), FP8 e NVFP4 (5,3 GB). Licenza FLUX Kommunity (uso non commerciale + eccezione per utenti qualificati).
Il modello di immagini aperto più avanzato: aderenza al prompt eccellente, anatomia solida e fine-tuning completo. Lo standard per chi fa serio.
Generazione in pochissimi step con qualità alta e ottimo rendering del testo. La versione distillata di FLUX, pensata per la velocità.
Famiglia di modelli open di Google nelle taglie 1B, 4B, 12B e 27B. Contesto di 128K token, oltre 140 lingue supportate e input multimediali (testo e immagini). Ottima scelta per RAG e documenti lunghi su hardware consumer.
La taglia compatta della famiglia Gemma 3 di Google: 4,32B di parametri, contesto di 128K token e supporto nativo a 140+ lingue (incluso l'italiano), con input testo+immagini. Licenza Gemma (uso commerciale con condizioni). In Q4_K_M occupa circa 2,9GB: gira su GPU da 8GB e su CPU moderne.
La taglia 12B della famiglia Gemma 4 di Google: 11,95B dense, contesto 256K e multimodalità integrata senza encoder separati (testo+immagini+audio). Licenza Apache 2.0. In Q4_K_M occupa circa 7,4GB: il punto di equilibrio tra qualità e requisiti hardware per l'uso locale su 8-16GB.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Modello compatto della famiglia Gemma 4 di Google: 8B di parametri totali, di cui 4,5B effettivi grazie agli embedding per livello (PLE). Contesto di 131K token, oltre 140 lingue, input testo+immagini e audio. La taglia di ingresso della famiglia Gemma 4 per l'uso locale su 8-16GB.
Modello MoE open-weight di inclusionAI: 560B parametri totali, 25B attivi per token, architettura ibrida (attenzione lineare KDA + Gated MLA), finestra di contesto fino a 1M di token, licenza MIT. Reasoning ibrido con modalità di pensiero on/off. A 4 bit entra in 512GB di memoria unificata.
I modelli foundation per la generazione sincronizzata di video e audio di Kandinsky Lab: da un prompt genera clip video con audio allineato, pubblicata in open weight. Primo paper della giornata su Hugging Face (2026-10-06), con checkpoint e Spaces già disponibili.
Modello di sintesi vocale da 82M di parametri su architettura VITS, Apache-2.0 per i pesi, con voci in decine di lingue e qualità sorprendentemente alta per le dimensioni. Gira in modo efficiente anche solo su CPU.
MoE di Aleph Alpha: 78,1B parametri (3,46B attivi per token), Apache 2.0, pesi FP8, contesto fino a 1M token, reasoning mode e tool calling. Pensato per carichi mission-critical su hardware locale.
Il modello open più grande di Meta: qualità da frontiera chiusa ma requisiti da datacenter. In pratica richiede multi-GPU ad alta VRAM o il cloud.
Modello open di livello frontiera con contesto da 131K token. Richiede 48-80GB di VRAM, un Mac con memoria unificata o una configurazione multi-GPU.
Il cavallo di battaglia locale per eccellenza: qualità solida, contesto da 131K token e un ecosistema di quantizzazioni GGUF immenso. La scelta standard per chat e assistenti.
Modello piccolo e veloce con contesto fino a 131K token. Punto di ingresso ideale per chat e riepilugi su hardware modesto, ottimo per smartphone e mini-PC.
Il modello MoE grande della famiglia Llama 4 di Meta: 400B di parametri totali con 17B attivi (128 esperti). Contesto 1M di token, nativamente multimodale (testo+immagini), licenza comunitaria Meta. Richiede multi-GPU o macchine con memoria unificata 128GB+ anche quantizzato.
Il modello MoE compatto della famiglia Llama 4: 17B di parametri attivi su 109B totali (16 esperti). Licenza comunitaria Meta con uso libero sotto i 700 milioni di utenti mensili. Uno dei punti d'ingresso migliori della famiglia Llama 4.
Generazione video aperta e veloce: testo o immagine a video a 768px con buona qualità del movimento. Tra i modelli video open più rapidi.
Il primo MoE open-source della serie MiniCPM-V di OpenBMB: 35,2B di parametri totali, ~3B attivi per token, comprensione di immagini multiple e video con compressione precoce dei token visivi (LLaVA-UHD v4). Primo MoE open-source con decodifica fluida on-device — 13+ tok/s con soli 3GB di RAM su iPhone 17 Pro Max — grazie al Lookahead Expert Scheduling (llama.cpp-omni), quantizzazione fine per livello e DSpark speculative sampling. Supporto day-0 per Rockchip, Houmo, Intel, AMD e Arm; gira su Ollama, llama.cpp, vLLM e SGLang.
Modello da 7B veloce ed efficiente, ben tarato sui compiti multilingue europei. Ottima qualità di istruzioni a una frazione del costo dei modelli da 13B in poi.
Il primo 'modello unificato' di Mistral: dense da 128B che unisce instruction-following, reasoning e coding in un'unica serie di pesi, sostituendo Medium 3.1, Magistral e Devstral 2. Multimodale (testo+immagini), contesto 256K, ragionamento configurabile. Open weights con licenza Modified MIT: uso libero fino a una soglia di fatturato per le grandi aziende.
Il modello della linea Small di Mistral, ora MoE: 119B di parametri totali con 6,5B attivi per token (128 esperti, 4 attivi). Unifica instruct, reasoning e coding in un unico modello multimodale (testo+immagini) con contesto 256K. Licenza Apache 2.0.
Otto esperti da 7B con due attivi per token: 47B di parametri totali e ragionamento da modello grande a una frazione del costo di calcolo. Un classico del mondo open.
Genera fino a 30 secondi di musica o effetti sonori da una descrizione testuale. Il modello musicale open di riferimento, leggero e versatile.
Modello di diffusione autoregressiva da 326M di parametri per la generazione di moto umanoide interattivo in tempo reale: prompt testuali online, vincoli cinematici (traiettorie radice, keyframe, pose sparse) e sequenze fino a 8 secondi. Addestrato su Bones Rigplay 1 (skeleton Core da 27 giunti, 20 fps), ottimizzato per GPU NVIDIA Ampere, Hopper e Blackwell. Licenza NVIDIA Open Model Agreement, uso commerciale consentito. Su Hugging Face dal 7 ottobre 2026.
Modello fondazione da 500 milioni di parametri di NVIDIA per dati tabellari: predizione, imputazione e generazione su dataset strutturati, con supporto OpenMDW 1.1 e checkpoint pronti all'uso. Esempio di IA locale su dati di business, non generativa di testo.
Modello di sintesi vocale multilingue di NVIDIA: 357M parametri, 12 lingue (italiano e francese inclusi), architettura encoder-decoder transformer. Compatto e pensato per esecuzione in locale a bassa latenza; pesi disponibili su Hugging Face.
Famiglia di modelli vision-encoder-decoder di NVIDIA per la comprensione di documenti in locale: markdown, formule LaTeX, bounding box e classe semantica per elemento, nell'ordine di lettura. ViT-H (C-RADIO) + decoder mBART a 10 blocchi, tutti sotto il miliardo di parametri. In locale via vLLM (v0.20–v0.26 per la 2.0) o Transformers, su GPU NVIDIA (Turing ad Blackwell).
Modello vocale end-to-end full-duplex da 11B: comprensione e generazione audio in un'unica architettura, senza stack in cascata ASR→LLM→TTS. Primo modello full-duplex open con tool calling durante la conversazione, risposte in ~450ms, interruzioni e turni naturali.
Il modello di ragionamento open-weight di OpenAI: MoE con 21B di parametri totali e 3,6B attivi (32 esperti, top-4), contesto 128K e quantizzazione MXFP4 nativa. Licenza Apache 2.0: i pesi partono già quantizzati a 4 bit, senza passo di conversione. Sta in 16GB di VRAM e gira anche su RAM unificata o CPU.
Il modello di generazione di immagini da 20B (MMDiT) di Alibaba: comprensione del testo nelle immagini eccellente, editing preciso e licenza Apache 2.0. La base della famiglia Qwen-Image, di cui 2.1 è la variante compatta da 7B.
Modello open-weight da 7B (DiT da 32 layer) che unisce generazione da testo fino a 2048x2048, editing con fino a 10 immagini di riferimento e trasparenza RGBA nativa. Pensato per girare in locale su 16GB+ di VRAM; supportato da diffusers e ComfyUI.
Modello ultra-compatto di 0,5 miliardi di parametri. Si esegue su qualsiasi hardware, anche embedded: ideale per riepilugi leggeri e per dispositivi locali a bassissimo consumo.
Salito netto in ragionamento e qualità delle istruzioni rispetto agli 8B. Ottimo per coding, agent e stesura strutturata su GPU da 16GB o Mac con 32GB di RAM.
Qualità vicina ai modelli da 70B a una frazione della dimensione: il punto ideale per usi avanzati. Eccellente in italiano, codice e ragionamento. Richiede 24GB o più di VRAM.
Modello da 3 miliardi di parametri con ottimo supporto multilingue, incluso l'italiano. Buono equilibrio tra qualità e requisiti hardware per riepilugi e stesure.
Il modello dense aperto migliore della sua classe, con supporto multilingue di prim'ordine in italiano, francese e altre lingue europee. Richiede configurazioni da 48-80GB.
Modello Mixture-of-Experts: 30B di parametri totali ma solo 3,3B attivi per token. Velocità da modello piccolo con qualità da modello medio; il rapporto qualità/velocità migliore della sua classe.
Il modello dense 8B della famiglia Qwen3: 8,19B di parametri, contesto nativo di 40K token (espandibile con YaRN) e ragionamento in modalità think/non-think attivabile per prompt. Licenza Apache 2.0. È il punto di equilibrio per l'uso locale su GPU da 8-12GB: in Q4_K_M occupa circa 5GB, lasciando spazio per contesto lungo.
Modello MoE da 35B parametri con ~3B attivi per token della famiglia Qwen, Apache-2.0. È la base di fine-tune di JEV-35B. Adatto a GPU da 40+ GB in BF16 o a quantizzazioni 4/8-bit per hardware più piccolo.
Il modello dense multimodale della generazione Qwen3.8 di Alibaba: 27,78B di parametri, input testo+immagini+video e contesto nativo di 262K token. Licenza Apache 2.0. L'attenzione ibrida (DeltaNet lineare + GQA) riduce la KV cache di circa il 75% rispetto a un transformer standard: in Q4_K_M sta su una singola GPU da 24GB.
Modello di moderazione della sicurezza da 0,6B con classificatore a livello di token per la sorveglianza in tempo reale durante la generazione incrementale. Tre livelli di gravità (sicuro, controverso, non sicuro) e 119 lingue: piccolo e locale, ideale per filtrare gli output senza cloud.
Fino a 47 secondi di audio da testo: musica e effetti sonori di alta qualità. Ottimo per produzioni sonore e sound design locali.
Il classico del generazione di immagini: veloce, leggero e con l'ecosistema di LoRA e ControlNet più vasto in assoluto. Perfetto per GPU da 6-8GB.
Lo standard attuale per immagini fotorealiste e artistiche a 1024px. Migliore aderenza al prompt e composizioni più coerenti rispetto a SD 1.5.
Trasforma un'immagine in un breve clip video di circa 2 secondi. Il punto d'ingresso per la generazione video locale; 16GB di VRAM consigliati.
Lo stato dell'arte dei modelli video aperti a 720p: qualità del movimento e coerenza tra i frame di livello professionale. Richiede 24GB o più di VRAM.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
