La tua IA è sempre pronta: come la tua auto rispetto al taxi. Nessuna coda, nessun limite di richieste.
I tuoi dati non lasciano il tuo hardware. Punto.
Nessun abbonamento, nessun costo per richiesta. Una volta che hai l'hardware, l'IA è tua.
Block presenta Dessa, un modello vocale addestrato da zero su conversazioni umane. L'azienda lo usa già per il supporto telefonico: un caso studio su quanto suona naturale un TTS/STT non fine-tunato su un grande modello esistente.
AMD integra il fork ZenDNN in oneDNN ed entra nel board UXL; Intel porta le estensioni ACE per la moltiplicazione di matrici. oneDNN diventa la libreria x86 di default in PyTorch: un solo percorso software da ottimizzare per l'IA locale su CPU, indipendentemente dal vendor.
Pubblicato un agente mobile near-frontier con ambienti e ricette di training completamente aperti: MobileGym++ simula 35 app commerciali con workflow cross-app, con reset e verifica controllabili. Rilevante per chi costruisce agenti on-device.
LLMspeed è un tool open source (showcase Hacker News) che stima la velocità di inferenza di oltre 250 combinazioni modello/hardware: RTX 3060 a H100, Mac Studio M5 Ultra, CPU-only. Le stime misurate vengono da benchmark della community (r/LocalLLaMA, localscore.ai), le altre sono derivate da configurazioni simili o proiettate dalle specifiche. Utile per decidere l'hardware prima di spendere.
MLExpert alza l'asticella a 35B e 72,7% di medaglie; EpochGo porta tre agenti AutoML su un 16 GB, zero API: cosa funziona oggi, i conti e i limiti.
AMD unifica ZenDNN in oneDNN, Intel unisce le sue estensioni ACE: un solo stack open source per l'accelerazione x86 in PyTorch, già di default. Cosa cambia se fai girare i modelli in locale su CPU.
NVIDIA ha rieditato Nemotron Parse (v1.1, v1.2, 2.0) nella stessa settimana del 20 ottobre: meno di 1 miliardo di parametri, struttura della pagina inclusa. Setup in locale con vLLM e limiti onesti.
Guida online che incrocia modelli open-weights e hardware reale: per ogni GPU, Mac e mini-PC mostra cosa gira, quanto spazio serve e a quanti token al secondo, con guide su quantizzazione e memoria. Lo strumento giusto per la via dell'hardware proprio.
Modello Mixture-of-Experts: 30B di parametri totali ma solo 3,3B attivi per token. Velocità da modello piccolo con qualità da modello medio; il rapporto qualità/velocità migliore della sua classe.
Il modello MoE della famiglia Gemma 4: 25,2B di parametri totali con 3,8B attivi per token. Contesto 256K, input testo+immagini, oltre 140 lingue, Apache 2.0. In Q4_K_M pesa circa 16,8GB: la scelta per chi ha 24GB di VRAM e vuole qualità da modello grande con velocità da modello piccolo.
Strumento open source per eseguire LLM localmente con semplicità.
Il modello open più grande di Meta: qualità da frontiera chiusa ma requisiti da datacenter. In pratica richiede multi-GPU ad alta VRAM o il cloud.
Home.setup_preview_cta_desc
Un PDF gratuito, passo per passo: hardware, modelli, strumenti e primi passi per portare l'IA nella tua azienda senza cloud e senza condividere i dati.
Scarica la guida gratuitaGratis. Nessun vincolo. Nessun indirizzo email.
La newsletter è gratis e basta la tua email. Con un account completo, però, il sito lavora per te: salva i tuoi setup, personalizza il profilo e tieni tutto sotto controllo.
Salva le configurazioni del piano hardware e modello: le ritrovi tutte, pronte, quando torni.
Nome, bio e preferenze: il tuo spazio sul sito, tuo per sempre.
Accesso facile a tutto l'archivio della newsletter e alla selezione settimanale di cosa cambia nell'IA locale.
Gestisci email, password e iscrizione quando vuoi. Niente vincoli, niente spam.
