Hardware per IA Locale: Cosa Serve Nel 2026
"Che hardware mi serve per l'IA locale?" è la domanda più frequente — e ha una risposta concreta, non un elenco di schede. La variabile che decide quasi tutto è una sola: la memoria dove stanno i pesi del modello (VRAM o RAM unificata). Tutto il resto — velocità, costo, complessità — è una conseguenza di quella. Questa guida porta dal budget alla scelta, coi prezzi di ottobre 2026.
La regola che governa la scelta
Un modello in 4-bit pesa circa (parametri ÷ 3,4) GB. A quel numero aggiungi 1–4 GB di KV cache a seconda del contesto, e ottieni la memoria minima. La VRAM che ti serve:
| Modello (Q4_K_M) | Pesi | + KV cache 8K | Memoria minima |
|---|---|---|---|
| 8B (Llama 3.1, Qwen3) | ~5 GB | ~6–7 GB | 8 GB |
| 14B (Qwen3) | ~8,3 GB | ~10–11 GB | 12–16 GB |
| 30B MoE (Qwen3-30B-A3B) | ~19 GB | ~21–22 GB | 24 GB |
| 70B (Llama 3.1, Qwen3) | ~40 GB | ~43–45 GB | 48 GB |
La velocità dipende dalla banda di memoria, non dal numero di GPU o dai core: un 8B Q4 fa 15–40 tok/s su una GPU da 400–800 GB/s, 10–20 su una da 200 GB/s, 3–10 su RAM DDR5 dual-channel, 2–3 su un Raspberry Pi. Se vuoi capire il ragionamento completo, Modello senza GPU: quando la CPU basta davvero lo fa coi numeri e i benchmark.
Le tre famiglie di macchine
1. GPU NVIDIA (la via standard)
CUDA è lo standard di supporto: Ollama, llama.cpp, vLLM, LM Studio funzionano tutti senza configurazione. I prezzi di listino di ottobre 2026, con la nota che le Blackwell si vendono spesso sopra la MSRP:
| Scheda | VRAM | Banda | Prezzo (ott 2026) | Che modelli porta |
|---|---|---|---|---|
| RTX 4060 Ti | 16 GB | 288 GB/s | ~499 $ (8GB: 399 $) | 8B–14B Q4–Q5 a velocità utile |
| RTX 5060 Ti | 16 GB GDDR7 | 448 GB/s | 429 $ listino, ~550 $ street | 8B–14B Q4–Q5, più veloce |
| RTX 5070 Ti | 16 GB GDDR7 | 896 GB/s | 749 $ listino, ~1.100–1.180 $ street | 32B Q4 a velocità pratica, MoE 30B veloci |
| RTX 4090 | 24 GB | 1.008 GB/s | 1.600–2.000 $ street | 32B Q5–Q8, 70B Q3–Q4 |
| RTX 3090 usata | 24 GB | 936 GB/s | ~1.000 $ | L'opzione "24GB economica": 32B Q4 |
Il punto di svolta per la qualità è 24GB: sotto, ti fermi a 14B o a MoE da 30B in Q3; sopra, il salto a 32B Q4–Q5 è il più netto che puoi fare senza entrare in workstation. Se il budget è una GPU sola, la 5070 Ti da 16GB è il miglior rapporto qualità/prezzo per la fascia 8–14B; la 3090 usata da 24GB è la scelta di chi vuole 32B senza spendere il triplo.
2. Apple Silicon (memoria unificata)
I chip M integrano CPU e GPU su un unico pool di memoria: ciò che conta è quanta RAM ci stai e quanta è allocabile alla GPU (su un Mac da 32GB, ~24GB; su un 64GB, ~48GB). Niente configurazione, niente driver, e la banda è alta: un M4 Max da 128GB porta un 32B Q4 a velocità pratiche. Se sei già nell'ecosistema Apple, è la via più pulita: IA locale su Mac: la guida completa dimensiona i modelli per ogni chip, e memoria unificata confrontata mette i numeri dei Mac contro le piattaforme x86.
3. CPU + RAM (budget o già posseduto)
Se non vuoi spendere in GPU, la CPU regge modelli 8B a Q4 a 5–15 tok/s su DDR5 dual-channel — abbastanza per uso quotidiano leggero. I costi:
| Opzione | Prezzo indicativo (ott 2026) | Cosa ottieni |
|---|---|---|
| Mini-PC 64GB DDR5 (es. Ryzen 7 8700G + 64GB) | 250–500 € | 8B Q4 a 8–15 tok/s, ~2 €/mese di corrente a 24/7 |
| Used: Ryzen 9 5950X + 64GB DDR4 | ~350–450 € | 8B Q4 a 8–12 tok/s, DDR4: banda più bassa |
| Mac Mini M4 (32GB) | ~1.100 $ | 14B Q4 a 15–25 tok/s, consumo 5–15W |
Il conto corrente è la voce che stupisce: una macchina a 10W di media a 24/7 fa 7,2 kWh/mese, cioè ~1,80 € a 0,25 €/kWh. Il calcolo completo dell'elettricità è nell'articolo sui costi.
Quanto costa davvero, in 36 mesi
La domanda non è "quanto costa la macchina", è "quanto costa avere un modello X per 3 anni". Su un 8B Q4, 10 minuti di chat al giorno:
| Scelta | Acquisto | Corrente (36 mesi) | Totale 36 mesi |
|---|---|---|---|
| Mac Mini M4 32GB | ~1.100 $ | ~70 € | ~1.150 € |
| PC + RTX 5060 Ti 16GB (sistema completo) | ~900 € | ~90 € (sistema a 40W media) | ~990 € |
| PC + RTX 3090 usata (aggiunta a PC esistente) | ~1.000 € | ~130 € (sistema a 60W media) | ~1.130 € |
| Mini-PC 64GB, no GPU | ~350 € | ~70 € | ~420 € |
| Cloud API (tariffa GPT-5.6 Terra): 10 min/giorno (~90k token/mese) | 0 € | — | ~80 € (≈ 2,5 $/mese) |
Il cloud non ha costo iniziale, ma il conto cresce con l'uso: a 10 minuti al giorno resta trascurabile (~2,5 $/mese, come mostrato in Quanto costa un token); a 20 milioni di token al mese arriva a ~184 €/mese sulla stessa tariffa Terra, ed è lì che la macchina da 900–1.000 € smette di costare e il cloud no. Regola pratica: uso leggero (meno di mezz'ora al giorno) → cloud; uso intensivo quotidiano → macchina.
La scelta per budget
- Zero / hai già un PC con 16–32GB: parti da CPU + modello 8B Q4. Funziona, è lento, ma impari il workflow. 0 €.
- ~500 €: GPU da 16GB (4060 Ti o 5060 Ti). Il 14B Q4 a 15–30 tok/s: il punto di equilibrio qualità/prezzo per la maggior parte delle persone.
- ~900–1.000 €: sistema completo con 16GB o 3090 usata con 24GB. Qui entri nel territorio 32B: il salto di qualità più grande.
- ~1.100 $ nell'ecosistema Apple: Mac da 32–64GB. Niente driver, niente configurazione, consumo da 5W a riposo.
- Budget non vincolato: workstation 24GB+ (5090 o RTX PRO 6000). Per chi lavora sui modelli ogni giorno, non per chi li usa.
E i limiti?
Una GPU da 16GB non esegue un 70B con qualità: o scendi di quantizzazione (Q3: la qualità degrada visibilmente su testo lungo) o cambi macchina. E i prezzi street delle Blackwell sono volatili — il listino è una promessa, lo street price è la realtà, e va rivisto al momento dell'acquisto. Il confronto GPU o CPU copre il caso intermedio; come si leggono le specifiche ti serve quando arrivi alla scheda tecnica del modello.
In sintesi: misura prima la memoria (pesi + KV cache), poi la banda (decide i tok/s), e solo dopo il prezzo. Per la maggior parte delle persone la risposta è una GPU da 16GB (~500 $) o la CPU che già hanno (~0 €); il salto vero è a 24GB (~1.000 $), dove il 32B diventa pratica quotidiana.
Fonti
- NVIDIA — schede GeForce RTX (prezzi di listino 5060 Ti / 5070 / 5070 Ti)
- BestValueGPU — history of RTX 5070 Ti street prices (ott 2026: ~$1.100–1.180)
- BestValueGPU — RTX 4090 price history (ott 2026: ~$2.000–2.999)
- llama.cpp — megathread benchmark: tok/s per hardware e quantizzazione
- Apple — Mac Mini M4 (configurazioni e prezzi)
Articolo generato con IA
In questi percorsi
Ti è piaciuto questo articolo?
Iscriviti alla newsletter per ricevere nuovi tutorial e guide.
Articoli Correlati
Intel e AMD collaborano su PyTorch/oneDNN: cosa cambia per l'IA locale sulle CPU
AMD unifica ZenDNN in oneDNN, Intel unisce le sue estensioni ACE: un solo stack open source per l'accelerazione x86 in PyTorch, già di default. Cosa cambia se fai girare i modelli in locale su CPU.
Mac Studio M5 Ultra: 512GB di memoria unificata sul desktop
Quattro die, 512GB di memoria unificata a 1,2 TB/s: il Mac Studio M5 Ultra porta i modelli MoE da 100 a 560B in locale. I conti sulla velocità, il confronto di costo con la DGX Station e quando il Mac è la scelta giusta.