Optimiser les performances

Choisir le bon matériel et tirer le meilleur de celui que vous avez déjà : CPU ou GPU, Mac, Raspberry Pi et inférence rapide.

11 articles dans le parcours

1
1.MatérielIntermédiaire
Matériel pour l'IA locale : ce qu'il faut en 2026
La règle de mémoire (poids + KV cache), les prix réels d'octobre 2026 pour GPU, Apple Silicon et CPU, le compte sur 36 mois et le choix par budget.
10 juin 2026 · 8 min de lecture
2
2.MatérielIntermédiaire
GPU ou CPU : quand la CPU suffit
Le prefill et le decode, ce qui compte pour la vitesse (la bande passante mémoire), les chiffres réels sur un portable courant, les cas où la CPU suffit et ceux où la VRAM est nécessaire — avec les commandes pour mesurer.
21 septembre 2026 · 8 min de lecture
3
3.GuidesIntermédiaire
L'IA locale sur Mac : le guide complet Apple Silicon
Pourquoi l'Apple Silicon (mémoire unifiée, cœurs GPU) est la machine la plus simple pour l'IA locale : RAM nécessaire, installation d'Ollama, modèles recommandés par génération et performances réalistes.
10 septembre 2026 · 4 min de lecture
4
4.MatérielIntermédiaire
IA locale sur Raspberry Pi
De la première installation au modèle qui répond sur un Pi 5 : prix réels 2026, formule tok/s = bande ÷ fichier, compte d'électricité et astuces qui comptent.
10 juin 2026 · 7 min de lecture
5
5.GuidesAvancé
vLLM : servir des modèles rapides
vLLM est le moteur open source qui transforme un modèle local en serveur concurrent : PagedAttention, batching continu, installation et les concepts clés pour choisir quand l'utiliser à la place d'Ollama.
20 septembre 2026 · 8 min de lecture
6
6.Les basesIntermédiaire
KV cache : pourquoi la RAM sert à plus que le seul modèle
Ce qu'est la KV cache, la formule pour la calculer avec les chiffres de Llama 3.1 8B et Qwen3 8B, et les trois leviers pour la gérer : contexte, quantisation et flash attention.
1 octobre 2026 · 7 min de lecture
7
7.MatérielIntermédiaire
Modèle sans GPU : quand le CPU suffit vraiment
En 2026, l'inférence sur CPU seul n'est plus un pis-aller : quand elle fonctionne vraiment, à quelle vitesse s'attendre et quelles manettes tirer pour presser le processeur.
2 octobre 2026 · 12 min de lecture
8
8.ComparaisonsIntermédiaire
Ollama vs llama.cpp : sous le capot
Ollama utilise llama.cpp sous le capot, mais les deux ne sont pas la même chose : l'un est le moteur, l'autre la voiture. Ce qu'il y a vraiment dessous, quand la différence compte et comment choisir sans slogans.
7 octobre 2026 · 7 min de lecture
9
9.Les basesIntermédiaire
Décodage spéculatif et MTP : la vitesse sans compromis
Le décodage spéculatif accélère l'IA locale sans changer la qualité de la sortie : un modèle esquisse les jetons, le grand modèle les vérifie. Voici comment fonctionne le schéma-verification, les têtes MTP de Qwen, EAGLE sur Mistral Medium 3.5 et comment activer le tout en trois commandes.
12 octobre 2026 · 6 min de lecture
10
10.ModèlesIntermédiaire
GGUF : le format qui fait tenir les modèles sur votre matériel
GGUF est le format à fichier unique qui distribue les modèles pour l'inférence locale : en-tête avec signature et version, métadonnées clé-valeur, index des tenseurs et poids alignés pour un chargement rapide via mmap. Types de quantification avec tailles réelles (8B de 14.96 Gio en F16 à 4.58 Gio en Q4_K_M), convention de nommage et règle pour choisir la taille selon la VRAM ou la RAM.
30 septembre 2026 · 8 min de lecture
11
11.ModèlesIntermédiaire
Quantification : tirer davantage du même matériel
La quantification réduit la précision des poids (de FP16 à 4-8 bits) pour faire entrer les modèles dans moins de VRAM et générer plus de tokens par seconde. Niveaux, tailles réelles de Qwen2.5 14B, règle de choix à partir de Q4_K_M et limites (code, raisonnement, langues autres que l'anglais).
28 septembre 2026 · 6 min de lecture

Optimiser les performances | iaLocale