llama.cpp b11337: la serie di release di ottobre amplia la matrice CPU/edge
On-device e edgeArticoli correlati
NVIDIA, AMD e Intel per l'IA locale: quale piattaforma scegliere
CUDA, ROCm o Vulkan? Confrontiamo le tre piattaforme per l'IA locale sulla base di ciò che è davvero disponibile: stack software ufficiali, schede per fascia di VRAM (12, 16 e 24GB) e velocità reali. Dove resta la scelta ovvia, dove AMD batte per rapporto qualità-prezzo e quando ha senso uscire da NVIDIA.
GPU o CPU: quando la CPU basta
Serve davvero una GPU per l'IA locale? Per molti usi no: come funzionano prefill e decode, cosa conta (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo sul tuo hardware.
Qwen: il modello open con il miglior supporto multilingua
Qwen è la famiglia open con il miglior supporto per italiano e francese: generazioni, dimensioni, perché funziona bene in locale e confronto rapido con Llama.
Ricevi il prossimo punto sull'IA locale
Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.
Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.