Blog
Articles, guides et analyses sur l'intelligence artificielle locale
18 articles trouvés per "ollama"
Yzma : des embeddings jusqu'à 2,6 fois plus rapides qu'Ollama, le comparatif
Yzma appelle llama.cpp dans le même processus : pas de serveur, pas de round trip. C'est 2,6x plus rapide qu'Ollama sur les embeddings — avec les chiffres et le setup.
ML Drift : le moteur GPU on-device open source de Google, et quand il bat les généralistes
Le moteur qui fait tourner les modèles dans Chrome et YouTube est désormais open source : architecture, chiffres de benchmark et comparaison honnête avec Ollama et llama.cpp.
Des agents ML en local : MLExpert et EpochGo sur Ollama, coût d'API nul
MLExpert pousse la barre à 35B et 72,7 % de médailles ; EpochGo fait tourner trois agents AutoML sur 16 Go, sans API : ce qui marche aujourd'hui, les comptes et les limites.
MiniCPM-V 4.7 : le MoE de 35B qui tourne sur smartphone avec 3 Go de RAM
MiniCPM-V 4.7 (35B totaux, ~3B actifs, sorti le 12 octobre 2026 par OpenBMB et ModelBest) est le premier MoE open de la série, visuel-linguistique : images multiples, vidéo, OCR. 13+ tok/s avec 3 Go de RAM sur iPhone 17 Pro Max, 17+ sur Android. Quantisations officielles BF16, FP8, INT4, AWQ, GPTQ, GGUF ; moteurs Ollama, llama.cpp, vLLM, SGLang. Les trois techniques : Lookahead Expert Scheduling, quantisation fine par niveau, échantillonnage spéculatif DSpark.
Mac Studio M5 Ultra: guide pratique 512 Go - les modèles qui tiennent et setup GGUF
Ce qui tient réellement dans le Mac Studio M5 Ultra 512 Go : la règle des 4 bit pour les MoE (actifs vs totaux), trois voies d’installation GGUF (Ollama, LM Studio, llama.cpp), pourquoi le cache KV est le vrai goulot d’étranglement et quand les 9 999 USD se récupèrent face aux API.
Kolibri d'Aleph Alpha : le MoE de 78B qui tourne (presque) en local
Kolibri (78,1B/3,46B, Apache 2.0, FP8) d'Aleph Alpha est le MoE européen open-weight : raisonnement, tool calling et contexte jusqu'à 1M de tokens. En FP8 il pèse ~78 Go de VRAM : il tourne sur RTX 5090 32GB + mémoire partagée ou sur Mac à mémoire unifiée ; pour une adoption pratique il manque encore l'architecture kolibri1 dans llama.cpp et les builds d'Ollama/LM Studio.
Ollama vs llama.cpp : sous le capot
Ollama utilise llama.cpp sous le capot, mais les deux ne sont pas la même chose : l'un est le moteur, l'autre la voiture. Ce qu'il y a vraiment dessous, quand la différence compte et comment choisir sans slogans.
Confidentialité : ce qui circule vraiment sur le réseau quand l'IA est locale
Vos données ne quittent pas la machine — presque. Voici ce qui part vraiment sur le réseau avec Ollama et LM Studio, et comment le vérifier en une demi-heure avec tcpdump, Wireshark et mitmproxy.
Modèle sans GPU : quand le CPU suffit vraiment
En 2026, l'inférence sur CPU seul n'est plus un pis-aller : quand elle fonctionne vraiment, à quelle vitesse s'attendre et quelles manettes tirer pour presser le processeur.
L'IA locale pour votre activité : 5 cas d'usage concrets
Cinq cas d'usage pratiques de l'IA locale pour les entreprises : assistance client, documents, recherche interne, CRM et génération — avec les outils, le matériel minimum et un plan de départ en 30 minutes.
GPU ou CPU : quand la CPU suffit
Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.
vLLM : servir des modèles rapides
vLLM est le moteur open source qui transforme un modèle local en serveur concurrent : PagedAttention, batching continu, installation et les concepts clés pour choisir quand l'utiliser à la place d'Ollama.
Qwen : le modèle open au meilleur support multilingue
Qwen est la famille open au meilleur support pour le français et l'italien : générations, tailles, MoE, quand l'utiliser et comparaison rapide avec Llama.
Open WebUI : l'interface de votre IA locale
Open WebUI est l'interface web complète pour vos modèles locaux : installation Docker, connexion à Ollama, personnalisation par modèle, RAG documentaire et limites honnêtes.
L'IA locale sur Mac : le guide complet Apple Silicon
Pourquoi l'Apple Silicon (mémoire unifiée, cœurs GPU) est la machine la plus simple pour l'IA locale : RAM nécessaire, installation d'Ollama, modèles recommandés par génération et performances réalistes.
Qu'est-ce que l'IA locale et pourquoi vous en avez besoin
Explication concrète de l'IA locale : exécuter un modèle sur votre propre matériel plutôt que dans le cloud. Différences avec l'IA cloud, avantages (disponibilité, confidentialité, coûts prévisibles), limites honnêtes et démarrage en cinq minutes avec Ollama.
Exécuter des Modèles LLM en Local : du Premier Install au Premier Modèle
Découvrez comment installer et utiliser de grands modèles de langage sur votre ordinateur, sans dépendre de services cloud.
Ollama vs LM Studio : quel outil choisir
Ollama pour serveurs et scripts, LM Studio pour l'exploration desktop : tableau comparatif, les deux API (11434/1234) et le cas réel de ceux qui les utilisent ensemble.