Gateway (d'inférence)

Un service qui se place entre le client (ou un agent) et le modèle : il route les requêtes, applique des politiques (limitation de débit, authentification, redaction) et peut changer de provider sans que le client s'en aperçoive. Pour un agent LLM, un gateway de redaction est celui qui censure les secrets en sortie avant d'appeler le provider.