Aller au contenu principal
← Retour aux actualités

autotrust/JEV-35B : modèle décisionnel de 35 Md de paramètres (3 Md actifs) en NVFP4

Nouveaux modèles
Source:Hugging Face
Autotrust publie JEV-35B, un modèle décisionnel MoE de 35 Md de paramètres (3 Md actifs) fine-tuné sur Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. En Quantification NVFP4 il occupe environ 25,6 Go de VRAM : il tourne sur une GPU de 32 Go sans passer par le frontier.
Lire l'article original

Articles connexes

Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs

Pas besoin d'un grand LLM pour décider. JEV-35B (35 Md, 3 Md actifs) en NVFP4 sur une GPU de 32 Go et ej (11,4 Mo) sur CPU montrent comment faire du routage, de la classification et du contrôle qualité sans générer un seul jeton.

Ling 3.1 Flash : 560B open-weight sous licence MIT, contexte de 1M — ce que ça change si vous avez 24 Go de VRAM

Ling 3.1 Flash apporte 560B de paramètres open-weight sous licence MIT avec 1M de contexte. Il ne rentre pas dans 24 Go de VRAM, mais les quantifications, le MoE 25B actifs et les vrais chiffres changent le calcul.

Llama 3 et Llama 4 : la famille open de Meta, quel modèle tourne sur votre matériel

De la 3.1 8B à la 4 Scout MoE au contexte de 10M : la famille Llama en tableau, ce qui tourne sur 16, 48 et 128 Go de RAM, la licence Community traduite pour l'entreprise italienne et le choix par budget.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

📊

autotrust/JEV-35B

Modèles

Modèle décisionnel open de 35B paramètres (3B actifs) d'Autotrust, fine-tune de Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. Quantisé en NVFP4, il occupe environ 25,6 Go de VRAM : il tourne sur un GPU 32 Go sans passer par une inférence frontière.

MiniCPM-V 4.7 35B-A3B (MoE)

Modèles

Le premier MoE open-source de la série MiniCPM-V d'OpenBMB : 35,2 Md de paramètres au total, ~3 Md actifs par token, compréhension d'images multiples et de vidéo avec compression précoce des tokens visuels (LLaVA-UHD v4). Premier MoE open-source à décoder fluidement sur appareil — 13+ tokens/seconde avec seulement 3 Go de RAM sur iPhone 17 Pro Max — grâce au Lookahead Expert Scheduling (llama.cpp-omni), à une quantisation fine par couche et au DSpark speculative sampling. Support day-0 pour Rockchip, Houmo, Intel, AMD et Arm ; tourne sur Ollama, llama.cpp, vLLM et SGLang.

🧠

Qwen3 30B-A3B (MoE)

Modèles

Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.

🧩

Qwen3.5-35B-A3B

Modèles

Modèle MoE de 35 Md de paramètres avec ~3 Md actifs par jeton de la famille Qwen, Apache-2.0. C'est la base de fine-tune de JEV-35B. Adapté à des GPU de 40 Go+ en BF16 ou à des quantisations 4/8 bits pour du matériel plus petit.

Parcourir toutes les ressources