Flash attention
OttimizzazioneTecnica che riduce gli accessi alla memoria durante l'attenzione, spezzandola in blocchi e tenendo i risultati intermedi in memoria veloce. Abbassa la richiesta di banda passante e accelera prefill e decodifica, soprattutto sui contesti lunghi. In llama.cpp si attiva con la flag -fa.
Articoli correlati
- Modello senza GPU: quando la CPU basta davveroHardware · 2 ottobre 2026 · 11 min di lettura
- KV cache: perché la RAM serve più del solo modelloFondamenti · 1 ottobre 2026 · 6 min di lettura
- Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelliCasi d’uso · 27 ottobre 2026 · 5 min di lettura

