Ottimizza le prestazioni

Scegliere l'hardware giusto e strappare il massimo da quello che hai già: CPU o GPU, Mac, Raspberry Pi e serving veloce.

11 articoli nel percorso

1
1.HardwareIntermedio
Hardware per IA Locale: Cosa Serve Nel 2026
La regola di memoria (pesi + KV cache), i prezzi reali di ottobre 2026 per GPU, Apple Silicon e CPU, il conto in 36 mesi e la scelta per budget.
10 giugno 2026 · 7 min di lettura
2
2.HardwareIntermedio
GPU o CPU: quando la CPU basta
Come funzionano prefill e decode, cosa conta per la velocità (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo.
21 settembre 2026 · 7 min di lettura
3
3.GuideIntermedio
IA locale su Mac: la guida completa Apple Silicon
Il Mac è la macchina più semplice per lanciare l'IA locale: niente GPU da scegliere, niente driver da configurare. Quanta RAM ti serve, quale modello per la tua Apple Silicon e quali velocità aspettarti.
10 settembre 2026 · 4 min di lettura
4
4.HardwareIntermedio
IA Locale su Raspberry Pi: Guida Completa
Dal primo install al modello che risponde su un Pi 5: prezzi reali 2026, la formula tok/s = banda ÷ file, il conto di corrente e i trucchi che contano.
10 giugno 2026 · 7 min di lettura
5
5.GuideAvanzato
vLLM: servire modelli veloci
vLLM è il motore open source che trasforma un modello locale in un server concorrente: PagedAttention, continuous batching, installazione e i concetti chiave per scegliere quando usarlo al posto di Ollama.
20 settembre 2026 · 7 min di lettura
6
6.FondamentiIntermedio
KV cache: perché la RAM serve più del solo modello
Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.
1 ottobre 2026 · 6 min di lettura
7
7.HardwareIntermedio
Modello senza GPU: quando la CPU basta davvero
Nel 2026 l'inferenza su sola CPU non è più un ripiego: quando funziona davvero, a quale velocità arrivare e quali leve tirare per strizzare al massimo il processore.
2 ottobre 2026 · 11 min di lettura
8
8.ConfrontiIntermedio
Ollama vs llama.cpp: sotto il cofano
Ollama usa llama.cpp sotto il cofano, ma non è la stessa cosa: uno è il motore, l'altro la macchina. Cosa c'è davvero sotto, quando la differenza conta e come scegliere senza slogan.
7 ottobre 2026 · 6 min di lettura
9
9.FondamentiIntermedio
Decodifica speculativa e MTP: velocità gratis
La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.
12 ottobre 2026 · 6 min di lettura
10
10.ModelliIntermedio
GGUF: il formato che fa stare i modelli sul tuo hardware
GGUF è il formato a file singolo che distribuisce i modelli per l'inferenza locale: header con firma e versione, metadati chiave-valore, indice dei tensor e pesi allineati per il caricamento rapido via mmap. Tipi di quantizzazione con dimensioni reali (8B da 14.96 GiB a F16 a 4.58 GiB a Q4_K_M), convenzione sui nomi e regola per scegliere la dimensione rispetto a VRAM o RAM.
30 settembre 2026 · 8 min di lettura
11
11.ModelliIntermedio
Quantizzazione: ottenere di più dallo stesso hardware
La quantizzazione riduce la precisione dei pesi (da FP16 a 4-8 bit) per far entrare i modelli in meno VRAM e generare più token al secondo. Livelli, dimensioni reali di Qwen2.5 14B, regola di scelta da Q4_K_M e limiti (codice, ragionamento, lingue diverse dall'inglese).
28 settembre 2026 · 5 min di lettura