Outils, frameworks et modèles pour l'IA locale
24 ressources trouvées pour "Qwen"
Alibaba Group : les modèles Qwen font partie des LLM open-weight les plus performants au monde, publiés sous licences permissives. Les modèles Qwen du catalogue sont les ressources filles.
La Radeon con la maggiore capacità consumer: 24GB GDDR6 a 960 GB/s (bus 384-bit). Per l'IA locale la capacità batte la novità: mentre le schede da 16GB non caricano i modelli 27B, qui Qwen3.8-27B e i 32B in Q4 ci stanno con contesto ampio. 960 GB/s è il 96% della RTX 4090. ROCm ufficiale (gfx1100), 355W.
La GPU RDNA 4 di AMD: 16GB GDDR6 su bus 256-bit (640 GB/s), 64 CU, 304W. Con ROCm 7 la prima Radeon consumer con supporto ufficiale su Linux (gfx1201, senza workaround): ~92 tok/s su gpt-oss-20b, ~52 tok/s su Qwen 14B. Il 640 GB/s è il 43% in più della RTX 5060 Ti 16GB: la carta 16GB più veloce per modelli 9-20B, ma il 16GB non tiene un 27B dense.
Modèle décisionnel open de 35B paramètres (3B actifs) d'Autotrust, fine-tune de Qwen3.5-35B-A3B pour la classification de texte et le scoring du risque. Quantisé en NVFP4, il occupe environ 25,6 Go de VRAM : il tourne sur un GPU 32 Go sans passer par une inférence frontière.
Modèle de raisonnement de 27B aux poids ternaires à 1,72 bit par poids, dérivé de Qwen3.8-27B avec attention hybride (~75 % linéaire). En GGUF PTQ1_0 il occupe 5,95 Go, conserve 98,2 % de l'intelligence FP16 et atteint ~47 tok/s sur un laptop Apple M5 Max, avec un contexte de 262K tokens. Licence Apache 2.0. Exige la fork llama.cpp de Prism ML (les noyaux ternaires ne sont pas dans llama.cpp stock).
Modèle de décision multimodal de 27B (base Qwen3.8-27B) de Cloudflare : il lit un état (texte, JSON, images, vidéo) et un schéma de questions typées et renvoie une probabilité pour chaque option en une seule passe, sans génération de texte. Compatible avec l'API Jev et SystemOne.
Modèle d'images de 5,6 Md open weights pour texte-vers-image, édition par référence et composition multi-références en un seul modèle, avec des boîtes de positionnement dans le prompt. Encodeur texte Qwen3-VL-4B. En BF16 (11,1 Go), FP8 et NVFP4 (5,3 Go). Licence FLUX Kommunity (usage non commercial + exception pour utilisateurs qualifiés).
Bibliothèque Python de Hugging Face pour exécuter les pipelines des modèles génératifs : image, vidéo et audio. C'est le moyen standard de faire tourner des modèles comme Qwen-Image en local, avec support CUDA et offload CPU pour les GPU à mémoire réduite.
Framework open source pour le fine-tuning unifié de 100+ LLM et VLM (Qwen, Llama, Mistral, Gemma) : du SFT complet à LoRA, QLoRA et DPO, avec WebUI intégrée et démarrage depuis un seul fichier YAML. Projet de référence de la communauté (ACL 2024).
Il 16GB d'ingresso della generazione Blackwell: GB206, 16GB GDDR7 a 448 GB/s, 180W, PCIe 5.0 x8. Lancio a 429 USD: il modo più economico di far girare Qwen3.8-27B e i modelli 30B+ in Q4 su una singola scheda. Prezzo street 2026 più alto per la carenza di GDDR7.
Blackwell GB203 da fascia alta: 16GB GDDR7 su bus 256-bit (896 GB/s), 8.960 CUDA core, 300W. Il 16GB rende possibile Qwen3.8-27B o i modelli 30B+ in Q4 con contesto ampio. Lancio a 749 USD, febbraio 2025.
Le modèle de génération d'images de 20B (MMDiT) d'Alibaba : compréhension du texte dans les images excellente, édition précise et licence Apache 2.0. La base de la famille Qwen-Image, dont 2.1 est la variante compacte de 7B.
Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.
Modèle ultra-compact de 0,5 milliard de paramètres. S'exécute sur n'importe quel matériel, y compris embarqué : idéal pour des résumés légers et des appareils locaux à très faible consommation.
Saut net en raisonnement et qualité d'instruction par rapport aux 8B. Excellent pour le code, les agents et la rédaction structurée sur GPU 16 Go ou Mac avec 32 Go de RAM.
Qualité proche des modèles 70B à une fraction de la taille : le point idéal pour les usages avancés. Excellent en italien, en code et en raisonnement. Exige 24 Go de VRAM ou plus.
Modèle de 3 milliards de paramètres au soutien multilingue excellent, y compris l'italien. Bon équilibre entre qualité et exigences matérielles pour résumés et rédaction.
Le meilleur modèle dense open de sa classe, avec un soutien multilingue de premier ordre en italien, en français et dans d'autres langues européennes. Exige 48-80 Go.
Modèle Mixture-of-Experts : 30B de paramètres au total mais seulement 3,3B actifs par token. Vitesse d'un petit modèle avec la qualité d'un modèle moyen ; le meilleur rapport qualité/vitesse de sa classe.
Il modello dense 8B della famiglia Qwen3: 8,19B di parametri, contesto nativo di 40K token (espandibile con YaRN) e ragionamento in modalità think/non-think attivabile per prompt. Licenza Apache 2.0. È il punto di equilibrio per l'uso locale su GPU da 8-12GB: in Q4_K_M occupa circa 5GB, lasciando spazio per contesto lungo.
Modèle MoE de 35 Md de paramètres avec ~3 Md actifs par jeton de la famille Qwen, Apache-2.0. C'est la base de fine-tune de JEV-35B. Adapté à des GPU de 40 Go+ en BF16 ou à des quantisations 4/8 bits pour du matériel plus petit.
Il modello dense multimodale della generazione Qwen3.8 di Alibaba: 27,78B di parametri, input testo+immagini+video e contesto nativo di 262K token. Licenza Apache 2.0. L'attenzione ibrida (DeltaNet lineare + GQA) riduce la KV cache di circa il 75% rispetto a un transformer standard: in Q4_K_M sta su una singola GPU da 24GB.
Modèle de modération de la sécurité de 0,6B avec classifieur à niveau de token pour la surveillance en temps réel pendant la génération incrémentale. Trois niveaux de gravité (sûr, controversé, non sûr) et 119 langues : petit et local, idéal pour filtrer les sorties sans cloud.
Application macOS de dictée 100 % locale : transcription avec Whisper sur l'appareil et réécriture avec un LLM local (Qwen) sur la GPU M-series. Le texte arrive dans l'application cible ; aucune donnée ne passe par le cloud.
