Flash attention
OptimisationTechnique qui réduit les accès mémoire pendant l'attention en la découpant en blocs et en gardant les résultats intermédiaires en mémoire rapide. Elle baisse la demande de bande passante et accélère le prefill et la décodification, surtout sur les contextes longs. Dans llama.cpp, on l'active avec le drapeau -fa.
Articles liés
- Modello senza GPU: quando la CPU basta davveroMatériel · 2 octobre 2026 · 12 min de lecture
- KV cache: perché la RAM serve più del solo modelloLes bases · 1 octobre 2026 · 7 min de lecture
- Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelliCas d’usage · 27 octobre 2026 · 6 min de lecture

