Quantizzazione-Aware Training (QAT)

Entraînement qui simule la quantification pendant le training, afin que le modèle apprenne à travailler avec des poids à faible précision. Contrairement à la quantification post-training (appliquée à froid, ex. Q4_K_M), la QAT préserve beaucoup plus de qualité à bits égaux. Google a publié des checkpoints QAT officiels pour la famille Gemma 4 en juin 2026.