Vai al contenuto principale
← Torna alle notizie

Flide: il motore di inferenza open source per i modelli di decisione, fino a 9,5x più veloce

Strumenti e rilasci
OmniJev pubblica Flide, un motore di inferenza open source per i modelli di decisione tipo Jev. La tecnica è il forking esatto dello stato, che fa condividere i calcoli tra più domande preservando la semantica delle decisioni: i test dichiarano fino a 9,5x rispetto a vLLM e SGLang, con 30+ modelli di decisione open source supportati (Decision Index 0.4.1).

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.