Prefill

Première phase de l'inférence, où le modèle traite le prompt d'entrée (tous les tokens) en une seule passe. Elle détermine le temps jusqu'au premier token : quasi instantané sur GPU, elle peut prendre quelques secondes sur CPU pour un prompt long.