Blog
Articles, guides et analyses sur l'intelligence artificielle locale
3 articles trouvés per "api"

SynthAPI : environnements synthétiques et scaling laws pour entraîner des agents tool-use
Environnements synthétiques aux échecs réglables pour entraîner des agents tool-use en local : les scaling laws de SynthAPI et le calcul — ~1,60 € d'énergie contre ~158 € d'API pour 10 000 tâches.

Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF
Ce qui tient réellement dans le Mac Studio M5 Ultra 512 Go : la règle des 4 bit pour les MoE (actifs vs totaux), trois voies d’installation GGUF (Ollama, LM Studio, llama.cpp), pourquoi le cache KV est le vrai goulot d’étranglement et quand les 9 999 USD se récupèrent face aux API.

vLLM : servir des modèles rapides
vLLM est le moteur open source qui transforme un modèle local en serveur concurrent : PagedAttention, batching continu, installation et les concepts clés pour choisir quand l'utiliser à la place d'Ollama.

