Scegliere hardware e modello

Come scegliere l'hardware giusto e il modello adatto al tuo uso: VRAM, quantizzazione, GPU o CPU e velocità di risposta.

15 articoli nel percorso

1
1.FondamentiIntermedio
Come Scegliere il Tuo Primo Modello IA Locale
I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.
9 giugno 2026 · 6 min di lettura
2
2.HardwareIntermedio
Hardware per IA Locale: Cosa Serve Nel 2026
La regola di memoria (pesi + KV cache), i prezzi reali di ottobre 2026 per GPU, Apple Silicon e CPU, il conto in 36 mesi e la scelta per budget.
10 giugno 2026 · 7 min di lettura
3
3.HardwareIntermedio
GPU o CPU: quando la CPU basta
Come funzionano prefill e decode, cosa conta per la velocità (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo.
21 settembre 2026 · 7 min di lettura
4
4.GuideIntermedio
IA locale su Mac: la guida completa Apple Silicon
Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.
10 settembre 2026 · 4 min di lettura
5
5.GuideIntermedio
Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello
Scoprite come installare e utilizzare grandi modelli linguistici sul vostro computer, senza dipendere da servizi cloud.
10 giugno 2026 · 7 min di lettura
6
6.GuideAvanzato
vLLM: servire modelli veloci
vLLM è il motore open source che trasforma un modello locale in un server concorrente: PagedAttention, continuous batching, installazione e i concetti chiave per scegliere quando usarlo al posto di Ollama.
20 settembre 2026 · 7 min di lettura
7
7.HardwareIntermedio
Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità
128GB o 512GB di memoria condivisa tra CPU e GPU: tre piattaforme reali, la banda passante che decide la velocità, e i conti su cosa ci sta dentro e per chi ha senso.
10 ottobre 2026 · 8 min di lettura
8
8.ModelliIntermedio
gpt-oss: il modello di ragionamento open di OpenAI
21B di parametri totali ma solo 3,6B attivi, pesi nativi in MXFP4 e 128K di contesto: il primo modello di ragionamento open di OpenAI sta in 16GB. Cosa significa in pratica.
11 ottobre 2026 · 6 min di lettura
9
9.HardwareIntermedio
Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti
Il tier da 16GB di VRAM è il centro di gravità dell'IA locale nel 2026. È la memoria sufficiente per far girare i migliori modelli densi open nei formati Q4 — la classe 27B, il nuovo punto d'equilibrio del catalogo aperto — senza sacrificare troppo contesto, e un prezzo di listino che (a seconda del mese) resta alla portata di un budget personale. La generazione Blackwell offre tre schede esattamente in mezzo a questo tier: RTX 5060 Ti, 5070 e 5070 Ti. Stessa generazione, stessa GDDR7, tre esperienze molto diverse. Oggi le confrontiamo: cosa ti porta realmente ciascuna, e dove va il tuo budget.
13 ottobre 2026 · 6 min di lettura
10
10.ConfrontiIntermedio
Quanto costa un token: cinque strade, i conti e il punto di pareggio
Frontier API, abbonamento, provider di inferenza, GPU in noleggio o hardware tuo: cinque strade per generare token, coi costi reali al mese, il conto della corrente e il punto di pareggio calcolato.
15 ottobre 2026 · 10 min di lettura
11
11.HardwareIntermedio
Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop
Quattro die, 512GB di memoria unificata a 1,2 TB/s: il Mac Studio M5 Ultra porta i modelli MoE da 100 a 560B in locale. I conti sulla velocità, il confronto di costo con la DGX Station e quando il Mac è la scelta giusta.
16 ottobre 2026 · 6 min di lettura
12
12.ModelliIntermedio
GGUF: il formato che fa stare i modelli sul tuo hardware
GGUF è il formato a file singolo che distribuisce i modelli per l'inferenza locale: header con firma e versione, metadati chiave-valore, indice dei tensor e pesi allineati per il caricamento rapido via mmap. Tipi di quantizzazione con dimensioni reali (8B da 14.96 GiB a F16 a 4.58 GiB a Q4_K_M), convenzione sui nomi e regola per scegliere la dimensione rispetto a VRAM o RAM.
30 settembre 2026 · 8 min di lettura
13
13.ModelliIntermedio
Quantizzazione: ottenere di più dallo stesso hardware
La quantizzazione riduce la precisione dei pesi (da FP16 a 4-8 bit) per far entrare i modelli in meno VRAM e generare più token al secondo. Livelli, dimensioni reali di Qwen2.5 14B, regola di scelta da Q4_K_M e limiti (codice, ragionamento, lingue diverse dall'inglese).
28 settembre 2026 · 5 min di lettura
14
14.ModelliIntermedio
Quando un modello grande non serve: scegliere per dimensione
Il metodo per scegliere la dimensione del modello in base all'hardware: i tre limiti (memoria, velocità, latenza percepita), la tabella VRAM per quantizzazione Q4, le classi per hardware e i casi in cui il modello piccolo vince.
27 settembre 2026 · 6 min di lettura
15
15.ModelliIntermedio
Come leggere le specifiche di un modello: famiglia, dimensione, contesto
Guida alla lettura delle specifiche di un modello: famiglia, dimensione totale e attiva, finestra di contesto, quantizzazione, benchmark e licenza, con un esempio su DeepSeek V4.1 Flash.
26 settembre 2026 · 8 min di lettura

Scegliere hardware e modello

Come Scegliere il Tuo Primo Modello IA Locale

Hardware per IA Locale: Cosa Serve Nel 2026

GPU o CPU: quando la CPU basta

IA locale su Mac: la guida completa Apple Silicon

Come Eseguire Modelli LLM Localmente: dal Primo Install al Primo Modello

vLLM: servire modelli veloci

Memoria unificata: da Strix Halo a Mac Studio M5 Ultra, quanto ci sta e a che velocità

gpt-oss: il modello di ragionamento open di OpenAI

Le schede Blackwell da 16GB: 5060 Ti, 5070, 5070 Ti

Quanto costa un token: cinque strade, i conti e il punto di pareggio

Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop

GGUF: il formato che fa stare i modelli sul tuo hardware

Quantizzazione: ottenere di più dallo stesso hardware

Quando un modello grande non serve: scegliere per dimensione

Come leggere le specifiche di un modello: famiglia, dimensione, contesto