Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "Modelli locali"
Guide en ligne qui croise modèles open-weights et matériel réel : pour chaque GPU, Mac et mini-PC, elle montre ce qui tourne, combien d'espace il faut et à quel débit en tokens/seconde, avec des guides sur la quantification et la mémoire. L'outil idéal pour la voie du matériel propre.
App GTK4/libadwaita pour GNOME pour discuter avec des modèles locaux via Ollama, en Rust et sous GPLv3 : elle gère l'installation d'Ollama, les modèles et le chargement de documents et d'images locaux.
Les runtime qui font tourner les modèles locaux sur votre matériel : Ollama pour la simplicité, llama.cpp pour la portabilité, vLLM pour le débit de production. Les moteurs du catalogue sont les ressources filles.
Les interfaces graphiques pour utiliser les modèles locaux sans compte ni envoi vers le cloud : LM Studio, ComfyUI, Fooocus et Open WebUI. Les studio du catalogue sont les ressources filles.
