EAGLE
TechniquesFamille de techniques de décodage spéculatif (paper EAGLE, arXiv:2401.15077) : un petit draft model lit les états cachés du grand modèle et prédit les jetons suivants à partir de là. L'échantillonnage reste lossless, comme le speculative sampling classique. Les checkpoints EAGLE officiels (par exemple Mistral-Medium-3.5-128B-EAGLE) sont servis nativement par vLLM et SGLang.

