IA Locale su Raspberry Pi: Guida Completa

Un Raspberry Pi non è un server, ma può eseguire modelli IA in locale — e per un sottoinsieme preciso di lavori fa il lavoro meglio di quanto si pensi: assistente personale sempre acceso, automazioni leggere, classificazione, prototipazione. Il punto non è la velocità, è il prezzo: una macchina che gira 24 ore su 24 costa in corrente meno di un caffè al mese. Ecco i numeri reali e il percorso dal primo install al modello che risponde.

Cosa puoi davvero farci, e cosa no

La regola fisica è semplice: la velocità di generazione è limitata dalla banda di memoria, non dai cicli della CPU. La formula:

tok/s massimo ≈ banda di memoria (GB/s) ÷ dimensione del file del modello (GB)

Il Pi 5 ha una banda di circa 17 GB/s. Un Llama 3.1 8B a Q4_K_M pesa ~4,9 GB: il soffitto teorico è 17 ÷ 4,9 ≈ 3,5 tok/s; il misurato sui Pi 5 reali si assesta tra 2 e 3 tok/s (Jeff Geerling ha registrato 1,99 tok/s su un 16GB). In pratica:

Modello (Q4)	File	Soffitto teorico Pi 5	Misurato Pi 5	Uso
Llama 3.2 1B	~0,8 GB	~20 tok/s	10–15	automazioni, classificazione
Llama 3.2 3B	~1,9 GB	~8,6 tok/s	4–6	chat leggera, riorganizzazione
Qwen3-4B	~2,5 GB	~6,8 tok/s	3–5	chat con italiano e francese migliori
Llama 3.1 8B	~4,9 GB	~3,5 tok/s	2–3	qualità massima praticabile
Qwen3-8B	~5,3 GB	~3,2 tok/s	2–3	idem, multilingua

3 tok/s significa una frase ogni 3–4 secondi: per chat interattiva va, per analizzare un documento da 50 pagine no. I modelli MoE (Qwen3-30B-A3B) non ci stanno per dimensione: 19 GB in Q4, e il Pi 5 16GB non lo porta.

Quale Pi comprare

I prezzi sono cambiati molto nel 2026: il costo della memoria è raddoppiato per la domanda dell'infrastruttura IA, e Raspberry Pi ha alzato i prezzi due volte in tre mesi.

Scheda	Prezzo ufficiale (2026)	Nota
Pi 4 (8GB)	~115 $	Banda 25 GB/s, CPU più lenta: 1,5–2 tok/s su 8B
Pi 5 (8GB)	~125 $	Va per 1–4B; l'8B Q4 (4,9 GB + KV cache + OS) sta, ma a denti stretti
Pi 5 (16GB)	~205 $	La scelta giusta: 8B Q4 con margine, contesto 8–16K

I prezzi ufficiali li pubblica Raspberry Pi nelle note sui rialzi; i valori sopra riflettono i due incrementi (dicembre 2025 e febbraio 2026). Aggiungi al kit: alimentatore ufficiale 27W (il Pi 5 ne vuole ~12–15W a pieno carico), case con ventola, e una SSD NVMe se vuoi velocità di I/O decente (~40–60 $ di accessorio).

Dal primo install al modello che risponde

1. Prepara la scheda. Scarica Raspberry Pi Imager, seleziona Raspberry Pi OS (64-bit), e scrivi l'immagine sulla microSD. Durante la configurazione, abilita SSH e imposta un nome. Se scrivi su NVMe via USB, il boot è più veloce e lo swap non fa a pezzi la microSD.

2. Accendi e verifica. Collega HDMI, tastiera, rete. Al primo login esegui:

sudo apt update && sudo apt full-upgrade -y
free -h

Dovresti vedere la RAM libera (su un 16GB, ~15 GB disponibili). Se il Pi dice "undervoltage", stai usando l'alimentatore sbagliato: passa al 27W ufficiale.

3. Installa Ollama.

curl -fsSL https://ollama.com/install.sh | sh

Al termine, ollama --version dovrebbe stampare il numero. Su un Pi 5 l'installazione è pulita: l'ARM64 è supportato direttamente.

4. Scarica il modello.

ollama pull qwen3:4b
ollama run qwen3:4b

Il primo avvio scarica ~2,5 GB: a 50 Mbps ci vogliono 10 minuti circa. Quando appare il prompt, prova: "Scrivi in italiano: qual è la differenza tra RAM e VRAM, in due righe."

5. Verifica che vada dove deve.

ollama ps

Deve mostrare il modello in 100% CPU. Se invece vedi il modello sparire e ricomparire, sta andando su swap: il file non sta in RAM e la velocità crolla a 0,5 tok/s. Se il modello è "100% CPU" e la velocità è quella attesa (3–5 tok/s per un 4B Q4), sei a posto.

Quanto costa in corrente

Il Pi 5 a pieno carico di CPU consuma 12–15 W; a riposo 3–4 W. Il conto:

Scenario	Consumo medio	kWh/mese	Costo (0,25 €/kWh)
24/7, carico alternato (media 8W)	8 W	5,8	~1,45 €/mese
24/7, con NVMe e periferiche (media 15W)	15 W	10,8	~2,70 €/mese
12 ore al giorno (media 8W)	8 W	2,9	~0,72 €/mese

Calcolo: 8 W × 24 h × 30 g = 5,76 kWh; × 0,25 €/kWh = 1,44 €. È un ordine di grandezza sotto qualsiasi macchina desktop: una workstation con RTX 4090 sotto carico fa 350–450 W e costa ~40 €/mese a 8 ore di lavoro, come mostrato in Quanto costa un token.

I tre trucchi che contano

1. NVMe per lo swap. Il Pi 5 supporta NVMe via USB: metti lo swap lì e la microSD non si consuma. Il modello caricato resta in RAM; la NVMe serve solo al boot e allo swap dei processi secondari.

2. zram per estendere la RAM. Se il modello sta a 5,5 GB su un 8GB, zram comprime la RAM libera e ti dà un margine:

sudo modprobe zram num_devices=1
sudo zramctl /dev/zram0 --size 4G
sudo mkswap /dev/zram0 && sudo swapon /dev/zram0

3. Controlla il contesto. Ogni token di contesto aggiunge bytes alla KV cache. Su un 4B, 8K di contesto costano ~1 GB; 32K ne costano 3–4. Se fai chat brevi, lascia il default (4–8K): non ti serve di più, e ogni GB che il contesto ruba è un GB in meno per il modello.

Dove il Pi non è la scelta giusta

Se il tuo caso è la qualità (ragionamenti lunghi, codice complesso, testi articolati), il Pi non è la macchina: un 8B su 3 tok/s non è un'esperienza. Se il tuo caso è la velocità (analisi di documenti, automazioni in batch), 10–20 tok/s su una CPU desktop a 150–200 € è 5–8 volte più veloce a un quarto del prezzo. Il Pi vince in un caso preciso: sempre acceso, sempre disponibile, costo di corrente trascurabile, ingombro zero.

In sintesi: il Pi 5 16GB (~205 $) esegue Qwen3-4B a 3–5 tok/s e Llama 3.1 8B a 2–3 tok/s, con un costo di corrente di 1–3 € al mese a 24/7. È un assistente personale sempre acceso, non un workstation. Per la qualità o la velocità, compra un'altra macchina; per il "sempre acceso", il Pi è imbattibile.

Fonti

• Raspberry Pi — prezzi ufficiali e note sui rialzi (dicembre 2025, febbraio 2026)
• Tom's Hardware — Pi 5 16GB a 205 $, secondo rialzo in tre mesi
• Ollama — installazione Linux
• Raspberry Pi Imager — download
• Benchmark Pi 5: soffitti teorici e misurati per modello
• Jeff Geerling — Llama 3.1 8B su Pi 5 16GB: 1,99 tok/s

Articolo generato con IA