Outils, frameworks et modèles pour l'IA locale
4 ressources trouvées pour "Llama"
App GTK4/libadwaita pour GNOME pour discuter avec des modèles locaux via Ollama, en Rust et sous GPLv3 : elle gère l'installation d'Ollama, les modèles et le chargement de documents et d'images locaux.
Les runtime qui font tourner les modèles locaux sur votre matériel : Ollama pour la simplicité, llama.cpp pour la portabilité, vLLM pour le débit de production. Les moteurs du catalogue sont les ressources filles.
Interface web complète de type ChatGPT pour Ollama et llama.cpp : comptes multi-utilisateurs, conversations organisées, gestion des documents pour le RAG, prompt système par modèle, outils et plugins. La version 0.11.4 (septembre 2026) fait voyager les métadonnées des fichiers avec les blocs récupérés et exécute la recherche hybride nativement dans la base de données : les grandes bases de connaissance sont beaucoup plus rapides. La manière la plus simple de transformer votre IA locale en un produit d'usage quotidien.
Outil Python à dépendance nulle qui reconnaît et résume chaque fichier avec un LLM local (Ollama, LM Studio ou MLX-LM), entièrement hors ligne. Détecte le type par le contenu, extrait la structure (CSV, e-mails, scripts, logs) et signale les fichiers contenant des instructions à l'assistant. Fonctionne aussi sans modèle (--no-llm). Licence MIT.
