Gateway (di inferenza)

Un servizio che sta tra il client (o un agente) e il modello: instrada le richieste, applica policy (rate limiting, autenticazione, redaction) e può cambiare provider senza che il client se ne accorga. Per un agente LLM, un gateway di redaction è quello che censura i segreti in uscita prima di chiamare il provider.