IA locale su Mac: la guida completa Apple Silicon

Il Mac è diventato la macchina più semplice per far girare un'IA locale. Niente scheda grafica da scegliere, niente driver da configurare: basta installare uno strumento, scaricare un modello e fare la prima domanda. Questa guida fa il punto: quanta RAM ti serve, quale modello scegliere in base al tuo chip e quali velocità aspettarti.

Perché Apple Silicon eccelle nell'IA locale

Due caratteristiche fanno la differenza.

La memoria unificata. Su un PC classico, la scheda grafica ha la propria memoria video (VRAM), spesso 8-24 GB, separata dalla RAM di sistema. Su un Mac M1, M2, M3 o M4, processore e GPU condividono lo stesso pool di memoria. Tutto il modello può risiedervi senza copiare dati da un posto all'altro. In pratica: un Mac da 32 GB offre più spazio per il modello di una GPU da 16 GB, e un 64 GB supera i 48 GB di una RTX 4090.

Le core di calcolo. Le GPU integrate Apple (fino a 40 core nei chip Max) sono progettate per il calcolo matriciale, che è esattamente ciò che un modello linguistico richiede durante l'inferenza.

Quanta RAM ti serve

RAM del Mac	Modello consigliato	Uso
8 GB	3B (Qwen 2.5 3B, Gemma 2B)	Test, riassunti brevi
16 GB	7B-8B in Q4 (Llama 3.1 8B, Qwen 2.5 7B)	Chat, scrittura, codice leggero
24-32 GB	12B-14B (Mistral Small, Qwen 2.5 14B)	Uso quotidiano comodo
48 GB e oltre	27B-32B (Qwen 2.5 32B)	Lavoro serio, documenti lunghi

Regola pratica: un modello 8B in quantizzazione Q4_K_M pesa circa 4,7 GB di RAM. Lascia 4-8 GB di margine per il sistema e le applicazioni.

Installare Ollama su Mac

Nel terminale:

curl -fsSL https://ollama.com/install.sh | sh

oppure via Homebrew:

brew install ollama

Poi scarica un modello:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Ciao, presentati in italiano"

È tutto. Ollama espone un'API locale su http://localhost:11434 in formato compatibile OpenAI: strumenti come Open WebUI, LM Studio o Dify si collegano senza modifiche.

Quale modello per la tua macchina

• M1 / M2 8 GB — qwen2.5:3b o gemma2:2b: corretti in italiano e in francese, ideali per provare.
• M1 Pro / M2 16 GB — llama3.1:8b o qwen2.5:7b: il miglior rapporto qualità/semplicità per chat e scrittura.
• M2 Pro / Max 32 GB — qwen2.5:14b o mistral-small: molto più a proprio agio nella comprensione di documenti.
• M3 / M4 Max 48-128 GB — qwen2.5:32b e oltre.

Per l'italiano e il francese, le famiglie Qwen, Llama e Mistral sono le più omogenee. Prova due modelli della stessa dimensione sui tuoi documenti prima di decidere.

Prestazioni realistiche

Sii onesto sulle aspettative. Un M1 Pro fa circa 8-12 token al secondo su un 8B quantizzato; un M3 Max può superare i 50. È molto diverso da una RTX 4090 (100 token/s e oltre), ma per la lettura è più che sufficiente: un essere umano legge a circa 3 token al secondo. Il punto debole è la latenza della prima risposta: con documenti lunghi (RAG), più è alta la banda della memoria, meglio è.

Buone pratiche

• Tieni il sistema aggiornato: Ollama migliora regolarmente il motore MLX e le prestazioni.
• Non sovraccaricare la RAM: un modello troppo grande che fa "swap" su disco diventa inutilizzabile.
• Per l'uso quotidiano preferisci la quantizzazione Q4_K_M; passa a Q5 o Q6 solo se hai margine.

In sintesi

Un Mac da 32 GB è oggi l'entry-level più semplice per l'IA locale: installazione in tre comandi, modelli di qualità in italiano e francese, e tutto resta sulla tua macchina. Inizia con ollama pull llama3.1:8b e giudica la differenza sui tuoi documenti.

Articolo generato con IA