Vai al contenuto principale
← Torna alle notizie

Jev in the Wild: analisi dei modelli di decisione Jev nel mondo reale

Modelli decisionali
Fonte:Hugging Face Papers
Studio CUHK sui modelli di decisione Jev: 2.050 casi d'uso reali analizzati, da triage e routing a moderazione e etichettatura. Il paper mappa il funzionamento, le applicazioni e l'ecosistema dei modelli che rispondono con etichette strutturate invece di testo libero.
Leggi l'articolo originale

Articoli correlati

Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi

Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.

GGUF: il formato che fa stare i modelli sul tuo hardware

Apriamo la scatola: cosa c'è davvero dentro un file .gguf, perché è un solo file, come si legge il nome e come scegliere la dimensione per la tua VRAM, con i numeri reali di un modello 8B.

Come Scegliere il Tuo Primo Modello IA Locale

I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto. Modelli consigliati per 8, 16 e 24 GB, e il primo modello in due comandi.

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

Risorse correlate

Strumenti e risorse dell'archivio iaLocale pertinenti a questo contenuto.

🛡️

Qwen3Guard-Stream-0.6B

Modelli

Modello di moderazione della sicurezza da 0,6B con classificatore a livello di token per la sorveglianza in tempo reale durante la generazione incrementale. Tre livelli di gravità (sicuro, controverso, non sicuro) e 119 lingue: piccolo e locale, ideale per filtrare gli output senza cloud.

📊

autotrust/JEV-35B

Modelli

Modello decisionale open da 35B parametri (3B attivi) di Autotrust, fine-tune di Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza bisogno di inferenza frontier.

💻

LM Studio

Software

App desktop senza terminale per scaricare ed eseguire modelli GGUF: interfaccia grafica, ricerca modelli integrata e server locale. La via più semplice per iniziare.

🖥️

Mac Studio (M5 Max)

Hardware

La workstation Apple di fascia alta: M5 Max con 18 core CPU, GPU fino a 40 core con Neural Accelerator e fino a 128GB di memoria unificata a 614 GB/s. Modelli fino a ~120B in 4 bit (e i MoE a bassa attivazione come gpt-oss-120b in tempo quasi reale), con MLX e llama.cpp. 10GbE di serie, Thunderbolt 5, fino a 8 display.

Sfoglia tutte le risorse