Vai al contenuto principale
← Torna alle notizie

llmtee: il proxy LLM self-hosted che mette i costi degli agenti su un foglio di calcolo

Strumenti e rilasci
llmtee è un proxy LLM self-hosted (binario Go + SQLite) che registra ogni richiesta con token, costo, latenza e tempo al primo token per OpenAI, Anthropic, OpenRouter, Ollama, vLLM e Groq. Include budget giornalieri e mensili per chiave con blocco a 429, dashboard, export CSV e endpoint Prometheus.

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.