Outils, frameworks et modèles pour l'IA locale
16 ressources trouvées pour "Local"
Le modèle décisionnel de 9B de Bespoke Labs : il tourne entièrement en local via Ollama 0.35 et répond à des questions typées (vrai/faux, échelle numérique, choix multiple) avec la nouvelle API systemone. Conçu pour la classification rapide dans les pipelines automatisés, sans cloud.
Modèle MoE de DeepSeek avec 552B de paramètres au total et 8 à 16B actifs par token. Contexte de 1M de tokens, licence MIT : usage commercial libre. Conçu pour le service en ligne, trop grand pour un usage local sur un seul PC.
La taglia 12B della famiglia Gemma 4 di Google: 11,95B dense, contesto 256K e multimodalità integrata senza encoder separati (testo+immagini+audio). Licenza Apache 2.0. In Q4_K_M occupa circa 7,4GB: il punto di equilibrio tra qualità e requisiti hardware per l'uso locale su 8-16GB.
Modèle compact de la famille Gemma 4 de Google : 8B de paramètres au total, dont 4,5B effectifs grâce aux embeddings par couche (PLE). Contexte de 131K tokens, plus de 140 langues, entrées texte+images et audio. La taille d'entrée de la famille Gemma 4 pour l'usage local sur 8-16GB.
MoE d'Aleph Alpha : 78,1B de paramètres (3,46B actifs par token), Apache 2.0, poids en FP8, contexte jusqu'à 1M de tokens, mode raisonnement et tool calling. Conçu pour des charges mission-critical sur matériel local.
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Modèle de fondation de 500 millions de paramètres de NVIDIA pour les données tabulaires : prédiction, imputation et génération sur des jeux de données structurés, avec prise en charge d'OpenMDW 1.1 et des checkpoints prêts à l'emploi. Un exemple d'IA locale sur des données métier, non générative de texte.
Modello di sintesi vocale multilingue di NVIDIA: 357M parametri, 12 lingue (italiano e francese inclusi), architettura encoder-decoder transformer. Compatto e pensato per esecuzione in locale a bassa latenza; pesi disponibili su Hugging Face.
Famille de modèles vision-encodeur-décodeur de NVIDIA pour la compréhension de documents en local : markdown, formules LaTeX, bounding boxes et classe sémantique par élément, dans l'ordre de lecture. ViT-H (C-RADIO) + décodeur mBART à 10 blocs, tous sous le milliard de paramètres. En local via vLLM (v0.20–v0.26 pour la 2.0) ou Transformers, sur GPU NVIDIA (Turing à Blackwell).
Modèle open-weight de 7B (DiT de 32 couches) qui unifie génération à partir de texte jusqu'à 2048x2048, édition avec jusqu'à 10 images de référence et transparence RGBA native. Pensé pour tourner en local sur 16Go+ de VRAM ; supporté par diffusers et ComfyUI.
Modèle ultra-compact de 0,5 milliard de paramètres. S'exécute sur n'importe quel matériel, y compris embarqué : idéal pour des résumés légers et des appareils locaux à très faible consommation.
Il modello dense 8B della famiglia Qwen3: 8,19B di parametri, contesto nativo di 40K token (espandibile con YaRN) e ragionamento in modalità think/non-think attivabile per prompt. Licenza Apache 2.0. È il punto di equilibrio per l'uso locale su GPU da 8-12GB: in Q4_K_M occupa circa 5GB, lasciando spazio per contesto lungo.
Modèle de modération de la sécurité de 0,6B avec classifieur à niveau de token pour la surveillance en temps réel pendant la génération incrémentale. Trois niveaux de gravité (sûr, controversé, non sûr) et 119 langues : petit et local, idéal pour filtrer les sorties sans cloud.
Jusqu'à 47 secondes d'audio à partir du texte : musique et effets sonores de haute qualité. Excellent pour les productions sonores et le sound design locaux.
Transforme une image en court clip vidéo d'environ 2 secondes. Le point d'entrée pour la génération vidéo locale ; 16 Go de VRAM recommandés.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
