Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "IA locale"
MoE d'Aleph Alpha : 78,1B de paramètres (3,46B actifs par token), Apache 2.0, poids en FP8, contexte jusqu'à 1M de tokens, mode raisonnement et tool calling. Conçu pour des charges mission-critical sur matériel local.
Le cheval de bataille local par excellence : qualité solide, contexte de 131K tokens et un écosystème de quantisations GGUF immense. Le choix standard pour la conversation et les assistants.
Modèle de fondation de 500 millions de paramètres de NVIDIA pour les données tabulaires : prédiction, imputation et génération sur des jeux de données structurés, avec prise en charge d'OpenMDW 1.1 et des checkpoints prêts à l'emploi. Un exemple d'IA locale sur des données métier, non générative de texte.
Il modello di trascrizione di riferimento per l'IA locale: 809M di parametri, 99 lingue, licenza MIT. Versione distillata di Large-v3 con decoder ridotto da 32 a 4 layer: trascrive circa 8 volte più veloce con perdita di accuratezza trascurabile. Gira in tempo reale su una GPU consumer e anche solo su CPU.
