Moteur d'inférence open source pour les modèles de décision (famille Jev). La technique est le forking exact de l'état : plusieurs questions partagent les calculs en préservant la sémantique exacte des décisions. Les tests des auteurs déclarent jusqu'à 9,5x de vitesse par rapport à vLLM et SGLang ; prend en charge 30+ modèles de décision open source (Decision Index 0.4.1).
Ressources
Outils, frameworks et modèles pour l'IA locale
7 ressources trouvées pour "Open source"

