Vai al contenuto principale
← Torna alle notizie

autotrust/JEV-35B: modello decisionale da 35B (3B attivi) in NVFP4

Nuovi modelli
Fonte:Hugging Face
Autotrust pubblica JEV-35B, un modello decisionale MoE da 35B parametri (3B attivi) fine-tunato su Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In Quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza passare dal frontier.
Leggi l'articolo originale

Articoli correlati

Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi

Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.

Ling 3.1 Flash: 560B open-weight con licenza MIT, 1M di contesto - cosa cambia per chi ha 24GB di VRAM

Ling 3.1 Flash porta 560B di parametri open-weight sotto licenza MIT con 1M di contesto. A 24GB di VRAM non ci entra, ma i quantaggi, il MoE 25B attivi e i numeri veri cambiano il calcolo.

Llama 3 e Llama 4: la famiglia open di Meta, quale modello gira sul vostro hardware

Dalla 3.1 8B alla 4 Scout MoE con contesto da 10M: la famiglia Llama in tabella, cosa gira su 16, 48 e 128 GB di RAM, la licenza Community tradotta per l'azienda italiana e la scelta per budget.

Ricevi il prossimo punto sull'IA locale

Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.

Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.

Risorse correlate

Strumenti e risorse dell'archivio iaLocale pertinenti a questo contenuto.

📊

autotrust/JEV-35B

Modelli

Modello decisionale open da 35B parametri (3B attivi) di Autotrust, fine-tune di Qwen3.5-35B-A3B per classificazione di testo e scoring del rischio. In quantizzazione NVFP4 occupa circa 25,6 GB di VRAM: gira su una GPU da 32 GB senza bisogno di inferenza frontier.

MiniCPM-V 4.7 35B-A3B (MoE)

Modelli

Il primo MoE open-source della serie MiniCPM-V di OpenBMB: 35,2B di parametri totali, ~3B attivi per token, comprensione di immagini multiple e video con compressione precoce dei token visivi (LLaVA-UHD v4). Primo MoE open-source con decodifica fluida on-device — 13+ tok/s con soli 3GB di RAM su iPhone 17 Pro Max — grazie al Lookahead Expert Scheduling (llama.cpp-omni), quantizzazione fine per livello e DSpark speculative sampling. Supporto day-0 per Rockchip, Houmo, Intel, AMD e Arm; gira su Ollama, llama.cpp, vLLM e SGLang.

🧠

Qwen3 30B-A3B (MoE)

Modelli

Modello Mixture-of-Experts: 30B di parametri totali ma solo 3,3B attivi per token. Velocità da modello piccolo con qualità da modello medio; il rapporto qualità/velocità migliore della sua classe.

🧩

Qwen3.5-35B-A3B

Modelli

Modello MoE da 35B parametri con ~3B attivi per token della famiglia Qwen, Apache-2.0. È la base di fine-tune di JEV-35B. Adatto a GPU da 40+ GB in BF16 o a quantizzazioni 4/8-bit per hardware più piccolo.

Sfoglia tutte le risorse