Token

L'unité de base de texte traitée par un LLM. Un token est typiquement un mot ou une partie de mot. En anglais, environ 1 token ≈ 4 caractères. Les modèles ont un contexte maximal mesuré en token : GPT-4 supporte 128K token, tandis que Llama 3 supporte 128K. Plus de token = plus de contexte mais plus de ressources nécessaires.