Aller au contenu principal
← Retour aux actualités

Jev in the Wild : analyse des modèles de décision Jev dans le monde réel

Modèles décisionnels
Source:Hugging Face Papers
Étude de la CUHK sur les modèles de décision Jev : 2 050 cas d'usage réels analysés, du tri et du routage à la modération et à l'annotation. Le papier cartographie le fonctionnement, les applications et l'écosystème des modèles qui répondent avec des étiquettes structurées au lieu de texte libre.
Lire l'article original

Articles connexes

Modèles de décision en local : JEV-35B et le System 1 à 3 Md actifs

Pas besoin d'un grand LLM pour décider. JEV-35B (35 Md, 3 Md actifs) en NVFP4 sur une GPU de 32 Go et ej (11,4 Mo) sur CPU montrent comment faire du routage, de la classification et du contrôle qualité sans générer un seul jeton.

GGUF : le format qui fait tenir les modèles sur votre matériel

On ouvre la boîte : ce qu'il y a vraiment dans un fichier .gguf, pourquoi c'est un seul fichier, comment lire le nom et comment choisir la taille pour votre VRAM, avec les dimensions réelles d'un modèle 8B.

Comment Choisir Votre Premier Modèle d'IA Locale

Les trois critères pour choisir votre premier modèle local : usage, mémoire (avec la formule exacte) et contexte. Modèles conseillés pour 8, 16 et 24 Go, et votre premier modèle en deux commandes.

Recevez le prochain point IA locale

Chaque semaine, une sélection du meilleur d'iaLocale : articles, actualités et ressources sur l'IA locale, et plus encore.

Après l'inscription, vous recevez un e-mail de confirmation (double opt-in). Sans confirmation, nous n'envoyons rien. Pas de spam, promis.

Ressources liées

Outils et ressources des archives iaLocale pertinents pour ce contenu.

🛡️

Qwen3Guard-Stream-0.6B

Modèles

Modèle de modération de la sécurité de 0,6B avec classifieur à niveau de token pour la surveillance en temps réel pendant la génération incrémentale. Trois niveaux de gravité (sûr, controversé, non sûr) et 119 langues : petit et local, idéal pour filtrer les sorties sans cloud.

📊

autotrust/JEV-35B

Modèles

Modèle décisionnel open de 35B paramètres (3B actifs) d'Autotrust, fine-tune de Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. Quantisé en NVFP4, il occupe environ 25,6 Go de VRAM : il tourne sur un GPU 32 Go sans passer par une inférence frontière.

💻

LM Studio

Logiciel

Application desktop sans terminal pour télécharger et exécuter des modèles GGUF : interface graphique, recherche de modèles intégrée et serveur local. La voie la plus simple pour commencer.

🖥️

Mac Studio (M5 Max)

Matériel

La workstation Apple di fascia alta: M5 Max con 18 core CPU, GPU fino a 40 core con Neural Accelerator e fino a 128GB di memoria unificata a 614 GB/s. Modelli fino a ~120B in 4 bit (e i MoE a bassa attivazione come gpt-oss-120b in tempo quasi reale), con MLX e llama.cpp. 10GbE di serie, Thunderbolt 5, fino a 8 display.

Parcourir toutes les ressources